Mikhail Burtsev, leder af laboratoriet for neurale systemer og dyb læring ved Moscow Institute of Physics and Technology, taler om, hvorvidt det er muligt at skabe en fuldgyldig computeranalog af det menneskelige sind og forklarer, hvorfor forskere udvikler det, og hvordan det kan beskyttes mod troldangreb.
I slutningen af juli lancerede forskere fra MIPT en international konkurrence om “talte” kunstige intelligenssystemer, der er i stand til at efterligne en levende person, og inviterede alle, der ønskede at kommunikere med dem og evaluere de resulterende dialoger. Ved hjælp af frivillige håber forskere at skabe en stemmeassistent i de næste tre år, der kan kommunikere med en person næsten lige så godt som en levende samtalepartner.
Konkurrencen blev organiseret af forskere fra universiteterne i Montreal, McGill og Carnegie Mellon. Du kan deltage i afprøvningen af dialogsystemer ved at følge linket.
Faktisk blev disse ideer ikke opfundet i dag - moderne stemmeassistenter fra Google, Apple, Amazon og andre it-virksomheder er rodfæstet i den dybe fortid, lige i begyndelsen af computertiden. Den første sådan talemaskine, ved navn ELIZA, blev oprettet i 1966 og var faktisk en vittighed, en parodi på en psykoterapeut, der gav en ubrugelig rådgivning til en patient.
I de efterfølgende år og årtier oprettede programmører mere og mere komplekse og "live" systemer til kommunikation med en computer. Det mest avancerede af disse systemer kan genkende ejerens stemning, huske hans gamle ønsker og præferencer og løse nogle af de rutinemæssige og husholdningsopgaver for ham ved at bestille mad eller varer i butikken eller spille rollen som en operatør i callcentre.
Mikhail, næsten 50 år er gået siden oprettelsen af ELIZA. Hvad har generelt ændret sig i løbet af denne tid og kan i princippet forvente, at forskere i fremtiden vil være i stand til at skabe et sådant system, at folk ikke kan skelne fra en levende samtalepartner?
- Jeg tror, at det i den nærmeste fremtid vil være muligt at skabe en talt intelligens teknologi, der gør det muligt for maskinen at nærme sig niveauet for menneskelig dialog. Vi arbejder på denne opgave inden for iPavlov-projektet, som er en del af National Technology Initiative.
Brugeren skal være lige så behagelig at kommunikere med et automatisk dialogsystem som med en levende person. Dette vil gøre det muligt at skabe informationssystemer, der er i stand til bedre at forstå, hvad en person ønsker af dem, og svare på ham på et naturligt sprog.
Salgsfremmende video:
Konversationsintelligens kan bruges til at automatisere mange stemme- og tekstgrænseflader, herunder messengers som Telegram. Som statistik viser, bruges budbringere i dag mere aktivt end sociale netværk, og en meget stor mængde information passerer gennem tekstkommunikationskanaler.
De er for eksempel praktiske at bruge i transporten, og tilføjelsen af en dialogassistent - en chat-bot - giver brugerne ikke kun mulighed for at kommunikere med hinanden, men også at modtage de nødvendige oplysninger, foretage indkøb og gøre mange andre ting. Dette vil føre til, at instant messengers og stemmeassistenter gradvist erstatter de sædvanlige websider og applikationer og også spiller rollen som online konsulenter og call center-specialister.
Kan Rusland konkurrere her i betragtning af tilstedeværelsen af Apple, Google og Amazon på dette marked? Er der nogen specificitet på det russiske sprog, der kan hindre potentielle konkurrenter fra russiske virksomheder og forskere?
- Selvfølgelig er det russiske sprog mere komplekst, og nogle af de metoder, der anvendes i dag i udviklingen af dialogsystemer og stemmeassistenter i verden, kan ikke anvendes uden finjustering og betydelig ændring, der gør det muligt for dem at arbejde med rigere grammatik.
På den anden side skjuler de grundlæggende algoritmer, der bruges i Siri, Cortana, Google og andre digitale assistenter, ingen - de er tilgængelige for os i det mindste på niveau med forskning og koncepter. Forskningsartikler og programkoder er ofte offentligt tilgængelige - i princippet kan det tilpasses russisk.
Mikhail Burtsev, chef for laboratoriet for neurale systemer og dyb læring, MIPT
Desuden er der ikke mange forsøg på at implementere dette på det "industrielle" niveau. Det eneste store projekt gennemføres af Yandex, som udvikler en assistent til Alice-projektet.
I vores projekt forsøger vi at skabe værktøjer, der vil forenkle og fremskynde oprettelsen af sådanne "industrielle" dialogsystemer designet til en række forskellige formål. Men at udvikle en universel stemmeassistent, der er i stand til at løse ethvert problem, er en ekstremt vanskelig opgave, selv for store virksomheder.
På den anden side er det meget lettere at automatisere en lille virksomhed, der bruger et specialiseret dialogsystem. Vi håber, at de værktøjer, vi vil skabe, vil hjælpe iværksættere og programmører med at løse sådanne problemer hurtigt nok uden at have nogen dyb viden og uden at bruge en super indsats for dette.
Mange forskere, såsom Roger Penrose eller Stuart Hameroff, mener, at det menneskelige sind er kvantemæssigt, og at det i princippet er umuligt at bygge en maskinanalog. Er du enig med dem eller ej?
- Efter min mening, hvis du ser på, hvad vi ved i dag om hjernens struktur og den menneskelige bevidstheds natur, så har vi indtil videre ingen grundlæggende hindringer for at gengive dens arbejde ved hjælp af en computer.
Penrose og Hameroff har et sæt hypoteser, som de mener forklarer, hvorfor dette ikke kan gøres. Indtil videre har neurofysiologer ikke fundet nogen eksperimentelle beviser for, at disse hypoteser er korrekte, og vores nuværende vidensbase taler for det modsatte.
En anden ting er, at tidsrammen for hvornår en sådan maskine oprettes forbliver ikke fuldt defineret. Det ser ud til, at dette kan ske om mindst 50 eller endda 100 år.
Vil dette kræve fundamentalt nye teknologier og computere, der er tættere på neuroners funktionsprincipper end digital logik?
- Hvis vi mener, at menneskelig intelligens er baseret på en eller anden form for beregning, kan ethvert universelt computersystem svarende til en Turing-maskine i teorien efterligne den menneskelige hjerne.
En anden ting er, at denne maskine kan køre meget langsomt, hvilket gør den ubrugelig fra et praktisk synspunkt. I dag er det svært at gætte hvilke teknologier til bygning af computere, vi har brug for her.
Hvilke andre opgaver kan digitale assistenter løse ud over de ting, de gør i dag? Kan de bruges til at dechifrere tekster på døde sprog eller krypteringer som Voynich-manuskriptet?
- I øjeblikket, så vidt jeg ved, har ingen forsøgt at bruge neurale netværk til at afdække døde sprogs hemmeligheder og dechifrere tekster, men det ser ud til, at nogen vil prøve at gøre dette i den nærmeste fremtid. Vi har til gengæld endnu ikke været interesseret i sådanne ting.
"Hjælper" er faktisk et meget bredt koncept, der kan omfatte mange meget forskellige ting. Hvis vi f.eks. Tager den samme ELIZA, en virtuel "psykoterapeut", opstår spørgsmålet: er hun en assistent eller ej?
Samtalesystemer kan ikke kun bruges til at løse praktiske problemer, men også for at underholde mennesker eller bevare deres humør. Spørgsmålet her er faktisk, hvad vi mener med begrebet personlig assistent, og hvor bredt eller snævert det er. I bredeste forstand kan sådanne systemer løse alle problemer relateret til kommunikation, omend med varierende grad af succes.
Samtalsgrænseflader, ud over direkte kommunikation med mennesker, kan også bruges til at lære maskiner til hurtigt at finde et fælles sprog og overføre information fra et system til et andet.
Dette vil omgå problemet med oprettelse af links og overførsel af data mellem eksisterende og oprettede tjenester, da de ikke behøver at kende hinandens API-specifikationer for at kommunikere med hinanden. De vil være i stand til at udveksle data ved hjælp af naturlige sprog eller deres eget kunstige sprog, der bliver opfundet af maskiner eller mennesker til sådanne formål.
Groft sagt vil selv systemer, der ikke er ukendte for hinanden, være enige om at bruge et fælles kommunikationssprog til dem og ikke faste regler for udveksling af information. Hvis de ikke forstår noget, kan de spørge hinanden om ukendte ting, hvilket vil gøre hele infrastrukturen til levering af tjenester og tjenester på Internettet utrolig fleksibel og giver det mulighed for hurtigt at integrere nye tjenester uden hjælp fra mennesker.
I denne henseende opstår spørgsmålet - hvem skal være ansvarlig for anbefalingerne fra "psykoterapeuten" ELIZA, computerlæger og andre stemmeassistenter, hvis råd i høj grad kan påvirke en persons trivsel og sundhed?
- Dette er et meget vanskeligt spørgsmål, da der i dag ikke er klare kriterier, der kan hjælpe os med at forstå, hvordan vi skal handle i sådanne tilfælde. Mange internettjenester og -tjenester, der udsender anbefalinger til brugere, begynder først at arbejde, efter at brugeren er indforstået med servicevilkårene og de konsekvenser, der kan opstå som følge af arbejdet med det.
Det forekommer mig, at arbejdet med chatbots og stemmeassistenter - i det mindste i de tidlige stadier af deres eksistens - kunne reguleres på en lignende måde. For eksempel, hvis en bot simpelthen søger og analyserer information og handler på samme måde som en søgemaskine, kan de samme regler anvendes på den. I tilfælde af at han giver medicinsk eller juridisk rådgivning, bør ansvarsformen være anderledes.
F.eks. Skal sådanne systemer klart underrette brugeren om konsekvenserne af valget mellem kunstig intelligens og en almindelig læge. En person har et valg - at stole på lægen, der for eksempel vil tage fejl i 10% af tilfældene eller at satse på en maskine, der giver det forkerte svar i 3% af tilfældene. I det første tilfælde vil lægen være ansvarlig for fejlen, og i det andet brugeren selv.
Sidste år lancerede Microsoft Tay. AI chatbot, som den skulle slå fra bogstaveligt en dag senere på grund af det faktum, at netbrugere gjorde en “teenage-pige” til en reel racist. Er det muligt at beskytte sådanne dialogsystemer mod trolde og sjov?
- Det ser ud til, at du kan forsvare dig selv, men om det er værd at gøre det, afhænger af formålet med systemet. Det er klart, at hvis systemet ikke skulle give nogen specifikke bemærkninger - uhøflige eller ekstremistiske, så kan vi filtrere dets svar. Denne filtrering kan forekomme enten i uddannelsestrinet eller allerede under genereringen af svar.
Forresten blev en lignende opgave med at vurdere kvaliteten af dialogen løst af hold inden for rammerne af DeepHack Turing videnskabelige skole-hackathon, som fandt sted på MIPT for et par uger siden. Deltagerne udviklede algoritmer, der kunne forudsige ud fra signalerne i dialogen, hvilken slags vurdering en person ville give til dialogsystemet.
Det næste trin i udviklingen af denne tilgang er oprettelsen af et program, der vil evaluere accept af sætninger eller pålideligheden af kilder, der bruges til at generere svar på brugerforespørgsler. Det ser ud til, at det ville hjælpe med at løse dette problem.