"Rise of the Machines", "Terminator Returns" … En masse science fiction er bygget på det faktum, at computere bliver så smarte, at de forstår, at de vil have det bedre uden en person. Eventyr? Sådan ser du ud. I 2050 vil en typisk hjemmecomputer være i stand til at behandle så meget information, som alle mennesker på jorden sammensætter.
Men 2050 er under forudsætning af, at maskiner udvikler sig gradvist. Det fungerer ikke sådan. Vores forhold til den elektroniske verden skrider frem i store spring. En gang - en mus blev fastgjort til bilen. En gang - Internettet dukkede op. Engang - der var smartphones med tablets.
Det næste gennembrud kommer, når computeren kan forstå mennesker. Smartphones har allerede apps som Siri og Cortana, der kan have en enkel samtale med os. Men problemet er, at computeren skal forstå, ikke hvad vi siger, men hvad vi mener! Det enkleste eksempel: Udtrykket “Han forlod mig”, der siges af en tårefladet kvinde og en mands chef, har helt andre betydninger.
Så: så snart maskiner lærer at genkende nuancerne i menneskelig tale, på den ene side, vil vores hænder være bundet i bogstavelig og figurativ forstand. Jeg talte med computeren, og det gjorde alt. På den anden side nærmer vi os ikke en farlig linje og fjerner den sidste barriere i kommunikationen mellem mennesker og sjæleløst jern?
Jeg har længe ønsket at tale om dette med en kendt videnskabsmand, direktør for sproglig forskning ved ABBYY, leder af afdelingen for computervingvistik ved det russiske statsuniversitet for humaniora og Moskva Institut for Fysik og Teknologi, Vladimir Selegey. Men da jeg fortalte ham min apokalyptiske frygt, rynkede han pungen.
”Ja, science fiction er fuld af mørke forudsigelser om, hvordan menneskeuddannede maskiner klarer sig uden det. Men det er ikke klart for mig, hvorfor en stigning i mængden af viden, der er integreret i programmer, vil provokere en computer til at træffe beslutninger uden at spørge tilladelse fra en person?
Faktisk er problemet ikke, at computeren lærer at klare sig uden mennesker, men at folk vil undvære sig selv, når de løser visse problemer. Her er Tjernobyl …
Salgsfremmende video:
Og hvad har Tjernobyl at gøre med det?
- En atomreaktor er en meget kompleks fysisk model. Det ser ud til, at alle kontrolparametre på reaktoren er kendte, alt adlyder strenge fysiske love, og beslutningstagning kan overlades fuldstændigt til computeren. Men…
I 1986, en uge efter ulykken, deltog jeg på et seminar om brugen af kunstig intelligens i industrien. Selv da var det tydeligt, at ved at overdrage beslutningstagning til en computer, er vi i alvorlig risiko. Det er almindeligt, at programmer indeholder fejl. Selv satellitterne har softwarefejl.
Det vil sige, en person er mere pålidelig end en computer, selvom han "tænker" meget hurtigere?
- En person, udover alt andet, har motivation. Han løser sine problemer - uddannelse, formering, karriere, han ved hvordan man skal føle sig …
Men kan en kløgtig programmør skrive et program, der lærer en aggressionmaskine …
- Du kan prøve at lave for eksempel en militær robot, der selv træffer beslutninger og analyserer, hvad den ser og hører. Og det vil være meget farligt. Men ikke fordi robotten pludselig vil have et ønske om at ødelægge, som skrevet af science fiction-forfattere. Men fordi en programmerers fejl kan forsømmelse af nogle faktorer føre til uforudsigelig robotadfærd.
Men indtil videre er vi meget langt fra evnen til at skabe selvlæringsprogrammer, der er i stand til at generere helt ny viden. Groft sagt flytter du uafhængigt fra multiplikationstabellen til evnen til at løse komplekse ligninger.
I anden halvdel af det tyvende århundrede var futuristiske forudsigelser inden for videnskabsområdet meget populære. Alt om computerens intelligens kom i mælken. Ingen forudsagde Internettet, den utrolige fri adgang til information, mobiltelefoner. Men alle talte om tænkende computere.
I slutningen af 60'erne optrådte f.eks. Vores første skaksystem KAISA med succes ved verdensmesterskabet blandt computere. Man troede, at for at en maskine skulle slå en person, var det nødvendigt at simulere algoritmerne for et menneskeligt spil. At lægge sindet, intellektet, den meget mystiske intuition, der får skakspilleren til at tage de rigtige beslutninger.
I dag slår computeren en person. Men han blev aldrig lært intuition. En milliard spillede spil, al oplevelse af spillet, alle de beslutninger, der nogensinde er blevet taget af skakspillere, er lagt ind i hans hukommelse. Og de lærte dem at bruge dette, når de valgte den optimale spilplan, hvilket gav dem en enorm hastighed af optælling og evaluering af muligheder. Computeren slår verdensmestrene, men får ingen glæde af det. Alt er helt anderledes end mennesker.
Men du er en af dem, der bare lærer computeren at "tænde på hovedet"
- Vi prøver kun at undervise programmer til at "forstå" tekster, så de kan udtrække oplysninger fra dem, samle dem og generalisere dem. Så folk får filtreret viden, valgt fra milliarder af kilder. Dette er meget vanskeligt, fordi en person ikke selv ved godt, hvordan hans sprogfærdighed er arrangeret, som hans forståelse af andre mennesker er baseret på.
Statistisk maskinoversættelse er nu populær. Computeren forstår overhovedet ikke, hvad den oversatte tekst handler om, den ved bare, hvordan man finder de mest sandsynlige varianter af oversættelse af små fragmenter (med få ord) og analyserer de enorme mængder menneskelige oversættelser, der er gemt i dens hukommelse. Generelt er teksten klar. Men det ville være let at tage en ansvarlig beslutning på grundlag af en sådan oversættelse.
Okay, kan computeren oversætte instruktionerne til mig?
- Instruktioner? Er det farligt.
- Ja til et simpelt køleskab!
- Selv i køleskabet! Jeg vil gerne have, at vores programmer skal oversætte, forsøge at forstå teksten, vælge mellem muligheder baseret på viden og ikke kun fordi denne korrespondance oftest findes i vores database.
Okay, lad os sige, at du har løst problemet og skabt et system takket være hvilke computere vil lære at forstå nuancerne i vores tale og endda nøjagtigt oversætte det til et andet sprog. Og så truer en ny fare folk - der er ingen grund til at tænke. Der vil ikke være behov for at træne hukommelse, hjerne. Brug for information - venligst Wikipedia. Du skal tale med en udlænding - oversætter …
- Jo højere niveauet for en persons intelligens og viden er, jo mere nyttigt er den næste "smarte assistent" for ham. Og jo lavere, jo flere muligheder ser det ikke ud til at overveje. Computerteknologier fører til polarisering af samfundet. Groft sagt førte lommeregnerens fremkomst ikke til degeneration af matematikere. Men i nogle af skolebørnene var der tydeligvis et fald i det allerede lave niveau af evner.
- Du ved, for mig er en alvorlig indikator for et fald i uddannelsesniveauet antallet af mennesker, der skriver analfabeter eller ikke er i stand til at udtrykke deres tanker og følelser uden at bruge kammerat
- Ja, folk begyndte at skrive mindre kompetent. Simpelthen fordi der generelt er mindre læsning af redigerede tekster og meget mere af sådanne ressourcer, hvor stavningen er meget sløret. Gjorde dette folk bedøvere? Sikkert ikke.
Ser du en sammenhæng mellem det faktum, at en person analfabet udtrykker sine tanker på sit modersmål, og det faktum, at han er blevet bedrøvet?
”Jeg ville ikke gå så langt. Selvom det er indlysende: fordi børn begyndte at læse mindre, opstod der nogle problemer med overførslen af viden og kultur mellem generationer. Dette er et problem. I dag ser vi, at en moderne skolebørn med det samme niveau af karakterer som for 30 år siden kender litteratur værre.
Her! …
”… Men på den anden side ved han mange andre ting meget bedre, som ingen troede, de kunne vide.
Er dette en naturlig proces?
- Ja. Desuden kan viden for første gang i menneskehedens historie overføres ikke fra de ældste til de yngre, som det er sket i århundreder. Der skete en videnoverførsel fra de yngre til de ældste, som tidligere slet ikke var karakteristisk for den menneskelige kultur. Et barn lærer far eller mor at arbejde på en computer, med en mobiltelefon, er en kilde til forskellige viden for sine forældre. Og endnu flere børn rejser rundt i verden. Meget ofte er de en kilde til geografisk og kulturel viden.
Hør, men her begyndte det hele med computere. De frigjor mennesker endda fra behovet for at huske de grundlæggende grammatikregler
- Lige i de tidlige 90'ere arbejdede jeg i et team, der udviklede et af de første stavekontrolsystemer til det russiske sprog. Var det nyttigt eller skadeligt at gøre dette? Meget nyttig ud fra mit synspunkt. Dette system muliggør hurtigere oprettelse af dokumenter. Og så afhænger alt af personens ansvar. Hvem sagde, at der efter bilen overhovedet ikke er nødvendigt at kontrollere? Systemet hjælper kun med at gøre det meget mere effektivt.
Men vi stoler på computeren
- Det betyder kun, at den person, der lavede programmet, ikke informerede dig om, at der er mange fænomener, som maskinen ikke kan verificere. Forhandling, f.eks.
Nye teknologier fører desværre ofte til tab af traditionelle færdigheder. Jeg har udført reparationer i lejligheden. Jeg ville installere trævinduer, som blev installeret før. Men dette viste sig at være umuligt. Alle installerer dobbeltvinduer. Folk holder desværre op med at gøre mange ting med deres hænder. Hvad man skal gøre, det er sådan livet fungerer. Uheldigvis.
Så du er en konformist?
- Ikke. Jeg mener, at det ikke er godt at gøre absolut skadelige ting. Men når du både har gevinst og tab, er du nødt til at vurdere risikoen … Hvis du fremstiller medicin, tror du ikke, at ikke kun gode mennesker, men også dårlige mennesker vil overleve som følge af dets brug.
I vores tilfælde, samtidig med udviklingen af teknologier, er det nødvendigt at deltage i uddannelse af dem, der bruger dem. De negative konsekvenser af nye teknologier afspejles først og fremmest for dem, der ikke gør deres job særlig godt på noget teknologisk niveau.
Tag f.eks. Medicin. Vi ønsker at hjælpe lægen med at tage en beslutning, vi foretager et computerekspert-system baseret på analysen af et stort antal pålidelige diagnoser foretaget af de bedste læger. Det giver en professionel mulighed for at henvende sig til et større volumen af viden, end han selv har. Men den endelige beslutning er hans, ikke computeren! For en dårlig læge er alt andet - han vil stole på, hvad han ikke kan kontrollere pålideligt. Men i gennemsnit med fremkomsten af sådanne teknologier ser det ud til, at medicin stadig bliver bedre, ikke værre.
Nå, vi var overbeviste om, at der vil være mere fordel end skade fra det intellektuelle system til at forstå en person ved en computer. Men hvornår vises hun?
- Dette er en meget vanskelig opgave, der ikke kan løses med det samme. Det er nødvendigt at undervise computerviden om sprog og viden om verden, metoder til inferens og sammenligning af værdier. Noget, vi ved, hvordan man gør nu, noget vil tage år. For eksempel har vi brug for pålidelige data om sprogbrug under hensyntagen til individuelle og sociale forskelle. Og disse forskelle er meget betydningsfulde. For eksempel lavede vi et specielt projekt dedikeret til regionale forskelle i det russiske sprog. Samlede en ordbog, hvor næsten 10 tusind ord, som er normen for beboere i kun visse regioner i vores land
Hvem er vi?
- Dette er et fælles projekt kaldet Sprog i russiske byer, der involverer ABBYY-specialister, sproglige videnskabsfolk, entusiaster fra forskellige dele af Rusland og de russisk-talende i udlandet. Vi analyserede sprog i regionale medier, sociale netværk, dekret og lokale myndigheders beslutninger. Og dette er kun en lille del af den viden, der skal læres til en computer!
Hvad er den grundlæggende forskel mellem din tilgang til oversættelse og de systemer, som Google bruger for eksempel?
- Statistiske systemer bygger ikke sproglige strukturer. De kigger efter oversættelsest kampe for små fragmenter på 5-7 ord. Men sproget er så arrangeret, at meget ofte findes de relaterede ord meget længere, og hvis denne forbindelse ikke tages i betragtning, opstår der fejl. Men meget ofte er sådanne detaljer vigtige i oversættelsen, hvis forsømmelse fuldstændigt kan ændre betydningen. For at tage alt i betragtning er det nødvendigt under analysen at identificere hele systemet med sproglige forbindelser mellem ord, hvad der kaldes strukturen i en sætning. Vi oversætter ikke sætninger fra sprog til sprog, vi forsøger at identificere den semantiske struktur i sætningen og derefter syntetisere denne struktur ved hjælp af et andet sprog.
Men disse semantiske strukturer bruges ikke kun og ikke så meget til maskinoversættelse. De er også nødvendige for effektivt at løse problemerne med intelligent søgning og informationsanalyse, som i dag er vigtigere for ABBYY som en kommerciel virksomhed. For eksempel er de for nylig frigivne første løsninger til virksomhedsmarkedet baseret på disse teknologier: De giver dig bare mulighed for at søge og analysere data i en enorm strøm af information, der er gemt i organisationer.
Og hvilket sprog er fra dit synspunkt vanskeligere at forstå?
- Det accepteres generelt, at jo sværere er de sprog, hvor du har brug for at lære flere regler. Men i tilfælde af computerforståelse er dette ikke tilfældet.
Noget, der er vanskeligt for en person, for eksempel et rigt bøjningssystem på russisk eller litauisk, forenkler opgaven for en computer i bestemte stadier af analysen.
For eksempel er det kinesiske sprog meget vanskeligt, fordi der ikke er nogen morfologi i det, og dermed den store mængde uklarhed, som computeren står overfor. Derfor er det til computeranalyse af det kinesiske sprog meget vigtigt at bruge viden om verden, vigtigere end for eksempel, når man analyserer sprog med en udviklet morfologi.
Det lykkedes os at arbejde med russisk, tysk, engelsk, fransk, spansk, kinesisk. Sproganalyse er opdelt i faser. Nogle faser har specificitet, vanskeligheder for et sprog, andre for et andet. Men i det væsentlige er de teknologier, vi arbejder med, gældende for alle sprog.
Efter din mening, hvornår kommer dagen, hvor vi kan modtage en hurtig og forståelig oversættelse på computeren parallelt med vores samtale. Lad os sige, at vi taler nu, og straks får en udskrift af vores samtale på spansk?
- Det vil være muligt ret snart. Det tror jeg ikke om to år. Men … Hvad er der behov for for at løse dette problem? Vi er nødt til at forbedre vores taleanalysesystemer. Vi kan endnu ikke tage en spontan samtale, adskille den fra støjen og få den ønskede tekst. Og der er fremskridt i denne retning hvert år.
Men det samme vil der være sådanne ting, at maskinen ikke kan tolke entydigt. Og her afhænger nøjagtigheden af forståelse og oversættelse af tilgængeligheden af systemet med viden om verden, af mekanismerne for logisk inferens.
Men under alle omstændigheder vil faren for fuld tillid til et sådant program forblive. Det er en fejltagelse at tro, at du f.eks. Om fem år kan diktere et brev til en computer, det vil oversætte det, sende det til din forretningspartner, og alt går fint. Ingen garanterer, at maskinen ikke vil gå glip af "ikke" et eller andet sted eller begå andre fejl, hvorefter dit forretningsforhold kan betragtes som komplet.
Det vil sige, en person som controller bør stadig være?
- Sikkert. Det er farligt at stole på teknologi blindt.