Politikere og kapitalister har en fredag eftermiddag tradition for at dumpe masser af nyheder for at skjule de dårlige nyheder blandt dem. Så det var lidt underligt, at Elon Musk, grundlægger af Tesla, en elbilproducent, og Sam Altman, præsident for den anerkendte techinkubator Y Combinator, afslørede deres nye AI-tema firma i slutningen af en uges lang AI-konference i Montreal i december sidste år.
Der var en grund til OpenAI's introduktion på en så sen time. Ikke fordi ingen så på. Fordi alle så på. Da nogle af de mest magtfulde virksomheder i Silicon Valley fornemmet, at vinden blæste, begyndte de at tilbyde enorme summer til det nyopståede OpenAI AI-talent for at holde disse genier hjemme. I sidste øjeblik blev forslagene - nogle fremsat på selve konferencen - så store, at Musk og Altman måtte udsætte meddelelsen om den nye opstart.”Summen nåede kanten af sindssyge,” siger Wojciech Zaremba, en videnskabsmand, der blev medlem af OpenAI efter praktikophold på Google og Facebook og var blandt dem, der modtog store tilbud kl. 23.00.
Hvor mange dollars er grænsen til galskab? For to år siden, da markedet for de nyeste maskinlæringsteknologier begyndte at varme op, sagde Microsoft Research VP Peter Lee, at omkostningerne til top AI-forskere har overskredet prisen for en top quarterback i National Football League - og det er under normale omstændigheder, ikke når de største iværksættere Silicon Valley forsøger at skubbe det bedste talent. Zaremba siger, at da OpenAI mødtes, blev det tilbudt to til tre gange sin markedsværdi.
OpenAI opfyldte ikke disse forslag. Men han tilbød noget andet: evnen til at forske fokuseret udelukkende på fremtiden, snarere end produkter og kvartalsvis fortjeneste, og i sidste ende opdele det meste - hvis ikke alle - af forskningen blandt dem, der ønsker det. Det er rigtigt: Musk, Altman og firma havde til hensigt at give væk hvad der kunne være den mest transformative teknologi i det 21. århundrede og give det væk gratis.
Zaremba siger, at forslag på randen af sindssyge faktisk afskrækker ham - på trods af den enorme respekt for virksomheder som Google og Facebook. Han følte, at pengene blev kanaliseret for at forhindre oprettelsen af OpenAI, hvilket yderligere forstærkede hans engagement i en generøs opstart. "Jeg indså," siger Zaremba, "at OpenAI er det bedste sted for mig."
Føler du ironien i hjertet af denne historie? Mens verdens største tech-virksomheder forsøger at bevare deres forskere lige så hårdt som NFL-hold prøver at beholde deres stjernekvartbacks, vil forskerne selv bare dele deres indsigt. I den sofistikerede verden af AI-forskning styres de lyseste sind ikke kun af den næste produktcyklus eller profit, eller slet ikke besat af dem. De vil gøre AI bedre, og det er umuligt at gøre AI bedre, når du holder din seneste udvikling for dig selv.
OpenAI frigav for nylig den første batch af AI-software, et værktøjssæt til at skabe kunstig intelligenssystemer baseret på teknologi kaldet forstærkningslæring, en af de vigtigste teknologier, der førte til oprettelsen af AlphaGo, Googles AI, der overraskede verden med dens kapaciteter. gå spil. Med dette sæt værktøjer kan du bygge systemer, der åbner op for en ny generation af robotter, spiller Atari-spil og ja, slår verdensmestrene på Go.
Salgsfremmende video:
Men legetøj er bare begyndelsen. OpenAI er en mission på milliarder dollars for at skubbe AI så langt som muligt. På den måde, virksomheden mødtes og hvad dets planer er, kan du se den næste nye bølge af innovation. Vi ved endnu ikke, om OpenAI vil være hoveddriveren for disse ændringer. Men kræfterne bag oprettelsen af denne temmelig usædvanlige opstart viser, at den næste generation af AI ikke kun vil ændre teknologien, men også den måde, den fungerer på.
Kunstig intelligens er overalt
Silicon Valley har en passion for overdrivelse. Fed-klodende udsagn skal altid mødes med et salt salt. Men inden for kunstig intelligens finder der faktisk ændringer sted. Inde i virksomheder som Google og Facebook hjælper dyb læringsteknologier allerede internettjenester med at identificere ansigter på fotos, genkende stemmekommandoer på smartphones og svare på internetsøgninger. Og denne samme teknologi kunne løse mange andre problemer i fremtiden. Det kan hjælpe maskiner med at lære at forstå det naturlige sprog - som vi mennesker er vant til at tale og skrive. Det kan hjælpe med at udvikle en ny race af robotter, tillade automatisk ikke kun at udføre deres opgaver, men også at lære på farten. Og nogle mener, at dette i sidste ende vil give maskiner noget som sund fornuft - evnen til at tænke virkelig som en person.
Og sammen med sådanne løfter fødes dyb angst. Musk og Altman er bekymrede for, at hvis mennesker kan skabe AI'er, der gør store ting, kan de bygge AI'er, der gør forfærdelige ting. De er ikke alene om deres frygt. Selvom dette kan virke modstridende, mener Musk og Altman også, at den bedste måde at bekæmpe ondsindet AI ikke er at begrænse adgangen til kunstig intelligens, men at udvide den. Det er denne ambition, der fører til et team af unge og intelligente idealister.
OpenAI optrådte en aften sidste sommer i et privat rum på Rosewood Hotel i Silicon Valley, et eksklusivt byhotel, der bogstaveligt talt sidder midt i risikokapitalistens verden. Elon Musk spiste frokost med Ilya Sutskever, som dengang var hos Google Brain, et firma, der udvikler dybe neurale netværk - kunstig intelligenssystemer, der kan trænes til at udføre opgaver ved at analysere store mængder digitale data, herunder genkende fotografier og skrive e-mails, lære af korrespondance. Suckever var en af hovedudviklerne af projektet.
Ilya Sutskever
Sam Altman, hvis Y Combinator hjalp med at forme virksomheder som Airbnb, Dropbox og Coinbase, mæglede mødet og samlede flere AI-forskere og den unge, men veteranvirksomhedsbygger Greg Brockman, tidligere teknologichef ved opstart Stripe, et andet firma Y Combinator. Det var en eklektisk gruppe. Men alle havde et mål: at skabe en ny type AI-laboratorium, der kunne fungere uden for kontrollen af ikke kun Google, men alle andre. "Det bedste, jeg kunne forestille mig som en udfordring," siger Brockman, "er at bevæge menneskeheden mod at skabe ægte AI langs en sikker vej."
Musk var der på grund af sit lange venskab med Altman - og fordi AI er kritisk for fremtiden for hans forskellige ventures og for fremtiden som helhed. Tesla har brug for AI, hvis den vil bygge selvkørende biler. SpaceX, en anden af Musks virksomheder, har brug for AI for at tage folk ud i rummet og holde dem sikre og sunde der. Men Musk er også en af de første (og højest), der advarer om, at menneskeheden en dag kunne miste kontrollen over systemer, der er stærke nok til at lære på egen hånd.
Der var et problem: mange mennesker, der er dygtige nok til at løse alle disse problemer, der allerede arbejdede hos Google (såvel som Microsoft, Facebook, Baidu og Twitter). Og ingen ved den middag var helt sikker på, at disse forskere kunne lokkes til en ny opstart, selvom Musk og Altman stod bag det. Og mindst en nøglespiller var klar til at forlade skibet.”Jeg forstod risikoen,” siger Suckever,”men jeg vidste også, at det ville være interessant at prøve.”
Bryd cirklen
Opmuntret af samtaler med Musk, Altman og andre i Rosewood besluttede Brockman snart at bygge det laboratorium, som de alle havde i tankerne. Med et stærkt engagement i projektet indbragte han Yoshua Bengio, en videnskabsmand fra University of Montreal og en af grundlæggerne af den dybe læringsbevægelse. To andre branche-pionerer - Jeff Hinton og Jan Lecun - arbejder på henholdsvis Google og Facebook, men Bengio stræbte efter et liv i den akademiske verden, et sted uden for rækkevidden af industrielle tentakler. Han skitserede en liste over de bedste forskere på området, og i de næste par uger kontaktede Brockman alle, han kunne, inklusive flere andre.
Mange af disse forskere hilste ideen velkommen, men var på vagt over for muligheden for et sådant spring. I et forsøg på at bryde cirklen valgte Brockman de ti opdagelsesrejsende, han ville se mest, og inviterede dem til at tilbringe lørdag med vin, snacks og samtale i en Napa Valley vinkælder. For Brockman var endda en tur til Napa katalysatoren for projektet.”Dette er en undervurderet måde at bringe folk sammen, især på tidspunkter, hvor du ikke har nogen steder at haste for at nå dit mål,” siger han. "Du er nødt til at gå der, men du skal også tale." Og da de kom til vinen, forblev den atmosfære. Som Suckever siger, "vinen var sekundær i samtalen."
Greg Brockman
Ved udgangen af dagen inviterede Brockman alle ti forskere til at deltage i laboratoriet og gav dem tre uger til at tænke. Ved afslutningen af perioden var ni i kommando. Og de blev i det på trods af de store tilbud fra giganterne i Silicon Valley.”Jeg fik et meget attraktivt tilbud om at blive, så beslutningen var ikke let,” siger Suckever fra Google, hans tidligere arbejdsgiver. "Til sidst besluttede jeg at gå til OpenAI, delvis på grund af den meget stærke gruppe af mennesker og selvfølgelig mest på grund af deres mission."
Den dybe læringsbevægelse startede i akademien. Det er først for nylig, at virksomheder som Google, Microsoft og Facebook har besluttet at tackle dette område, da fremskridt inden for brute computerkraft har gjort disse dybe neurale netværk til virkelighed, ikke kun en teoretisk mulighed. Mennesker som Hinton og LeCune har forladt akademien på Google og Facebook på grund af de enorme ressourcer hos disse virksomheder. Men forblev tæt forbundet i samarbejde med andre feltteoretikere. Som LeCun forklarer, kræver forskning i dyb læring den frie strøm af ideer. "Når du undersøger i hemmelighed," siger han, "falder du tilbage."
Som et resultat har store virksomheder nu meget af deres AI-forskning til rådighed. Dette er et vigtigt trumfkort, især for Google, der længe har holdt teknologien i sit online imperium hemmelig. For ikke så længe siden åbnede Google kildekoden til softwaremotoren, der kører dens neurale netværk. Men meget forbliver under lås og nøgle i dette løb for fremtiden. Brockman, Altman og Musk forsøger at skubbe tanken om åbenhed endnu længere ved at sige, at de ikke ønsker, at et eller to store virksomheder skal kontrollere fremtiden for kunstig intelligens.
Begrænsninger for åbenhed
Det lyder alt sammen godt. Men for al OpenAIs idealisme kan forskere befinde sig i de samme forhold, der tvang dem til at arbejde på gamle job. Åbenhed har sine grænser. Og den langsigtede vision om AI er ikke den eneste interesse i dette spil. OpenAI udfører ikke velgørenhedsarbejde. Musks virksomheder vil drage stor fordel af opstartens arbejde, og det samme vil Altmans Y Combinator.”Der er bestemt nogle konkurrerende point,” siger Lecun. - Det er en non-profit organisation, men den har et tæt forhold til Y Combinator. Og folk får betalt for at arbejde i denne branche."
Laboratoriet betaler ikke de samme astronomiske lønninger, som Google og Facebook leverede AI-forskere, sagde Brockman. Men han siger også, at laboratoriet "vil betale dem godt", og tilbyder kompensation i form af aktieoptioner, først hos Y Combinator og senere muligvis hos SpaceX (som i modsætning til Tesla er et privat firma).
Ikke desto mindre insisterer Brockman på, at OpenAI ikke sørger for særlig behandling af beslægtede virksomheder. OpenAI er et forskningsinitiativ, ikke et konsulentfirma. Alligevel har OpenAIs idealisme sine begrænsninger. Virksomheden åbner muligvis ikke koden for alt, hvad den producerer, selvom det endelige mål stadig er at distribuere det meste af det, uanset om det er videnskabelige artikler eller internettjenester.”Åbning er ikke nødvendigvis den bedste mulighed. Du er nødt til at fodre ideen, se, hvor den fører, og derefter offentliggøre, siger Brockman. - Vi producerer en masse open source-kode. Men vi vil også have en masse ting, der ikke er klar til udgivelse endnu."
Suzkever tilføjer også, at OpenAI kunne gå så langt som at patentere noget af sit arbejde.”Vi patenterer ikke noget snart,” siger Brockman. "Men vi er klar til at ændre taktik på lang sigt, hvis vi tror, det vil være bedre for verden." For eksempel kan OpenAI udføre proaktiv patentering for at afskrække andre fra at få patenter.
Nogle kan se patenter som et motiv for profit. Men det er hele pointen med patenter.
Superintelligens-problemet
Da Musk og Altman præsenterede OpenAI, skitserede de også projektet som en måde at neutralisere truslen om ondsindet superintelligens. Naturligvis kunne sådan superintelligens være et resultat af OpenAI's arbejde, men de insisterer på, at enhver trussel vil blive afbødet ved at gøre teknologien tilgængelig for alle.”Vi synes, det er meget mere sandsynligt, at en række AI'er kan stoppe tilfældige dårlige skuespillere,” siger Altman.
Men ikke alle på dette område tror på et sådant resultat. Nick Bostrom, en Oxford-filosof, som ligesom Musk advarede om farerne ved AI, påpeger, at hvis du deler din forskning uden begrænsning, kan "dårlige skuespillere" fange dem, før alle er overbeviste om, at de er sikre. "Hvis du har en knap, der gør verdens shitty," siger Bostrom, "vil du sandsynligvis ikke give alle adgang til den." Hvis OpenAI på den anden side beslutter at tilbageholde forskning for at forhindre de onde i at få adgang til den, spørger Bostrom: hvordan vil dette adskille sig fra Google eller Facebook?
Han siger ja, OpenAIs non-profit status kan eller måske ikke ændre ting. Projektets virkelige styrke, siger han, er, at det kan verificeres af Google og Facebook.”Det vil være i stand til at reducere sandsynligheden for, at superintelligens vil blive monopoliseret. Det vil være i stand til at fjerne en af de mulige årsager til, at nogle enkeltpersoner eller grupper har adgang til bedre AI end alle andre."
I et nyligt værk forklarer filosofen, at hovedvirkningen af et initiativ som OpenAI - et initiativ til frit at dele det, der gøres - er at fremskynde udviklingen af kunstig intelligens, i det mindste på kort sigt. Og det kan fremskynde fremskridt i det lange løb, forudsat at der opretholdes et højere niveau af gennemsigtighed, end det ville være kommercielt optimalt.
”Det kan være, at en filantropisk motiveret F & U-investor alvorligt kunne fremskynde fremskridt ved at føre åben videnskabspolitik,” siger han.
Hvordan Xerox PARC
I begyndelsen af januar samlet ni af Brockmans forskere sig i sin lejlighed i San Francisco. Projektet var så nyt, at de ikke engang havde whiteboards. (Forestil dig.) De købte nogle få samme dag og kom på arbejde.
Brockman siger, at OpenAI vil begynde med at undersøge forstærkningslæring, en maskinbaseret måde at lære problemer ved at gentage dem igen og igen og spore, hvilke metoder der giver de bedste resultater. En anden stor udfordring er den såkaldte "uovervåget læring" - skabelsen af maskiner, der virkelig kan lære selv uden menneskelig hjælp. I dag afhænger dyb læring af omhyggeligt mærkede data. Hvis du vil lære det neurale netværk at genkende fotos af katte, skal du fodre det med et vist antal eksempler - og disse eksempler skal mærkes som fotos med katte. Sådan træning udføres ved hjælp af mennesker. Men som mange andre forskere planlægger OpenAI at bygge neurale netværk, der kan lære uden omhyggeligt udvælgelse af data.
”Hvis du har en rigtig god undervisningsmetodik uden en lærer, kan maskiner lære af al viden på Internettet - som et menneske, bare kigge rundt - eller ved at læse bøger,” siger Brockman.
Han ser OpenAI som den moderne inkarnation af Xerox PARC, et teknologisk forskningslaboratorium, der eksisterede i 1970'erne. Ligesom PARCs åbne og gratis forskning har givet anledning til alt fra grafiske brugergrænseflader og laserudskrivning til objektorienteret programmering, ønsker Brockman og hans team at dykke ned i det, der tidligere var science fiction. PARC var ejet af Xerox, men fodret i hænderne på mange andre virksomheder, inklusive Apple, fordi folk som Steve Jobs hilste dens forskning velkommen. Brockman ønsker, at alle byder OpenAI-forskning velkommen.
I håb om at skubbe denne dynamik, rekrutterede Brockman og firmaet flere andre bemærkelsesværdige forskere, herunder Ian Goodfellow, en anden seniorkollega i Google Brain-teamet. Brockman siger, at PARC dybest set havde en masse smarte mennesker sammen og besluttede at se, hvad der skete. "Du har brug for en fælles vision uden central kontrol."
Mangel på kontrol er afgørende for idealet. Hvis du bringer nok mennesker ind i det kollektive mål, vil slutresultatet vinde det, du hemmeligt har tilberedt. Men hvis AI bliver så kraftig som lovet, vil ligningen ændre sig. Vi har brug for sikkerhed for, at den nyfundne AI vil overholde de samme egalitære idealer, der førte til dens oprettelse i første omgang. Musk, Altman og Brockman tror på mennesker, i mængden. Og hvis de viser sig at være rigtige, vil en mængde en dag ikke være helt menneskelig.
ILYA KHEL