Teoretisk fysiker Stephen Hawking og Tesla Motors grundlægger Elon Musk har tilsluttet sig en række principper, der skal sikre, at kunstig intelligens (AI) ikke skader mennesker og kun tjener det gode. Silicon Valley Business Journal rapporterer.
Denne pagt er nødvendig for at sikre menneskers sikkerhed såvel som for at besvare mange spørgsmål vedrørende AI. Musk er overbevist om, at AI potentielt kan være farligere end atomvåben. Hawking er også af en lignende opfattelse og hævder, at AI kan ødelægge menneskeheden. Begge erkender imidlertid, at AI vil hjælpe mennesker med at løse mange problemer - for eksempel at helbrede kræft eller bremse den globale opvarmning.
Overholdelse af alle 23 principper skal sikre, at AI kun tjener gode formål. De er opdelt i tre kategorier: Forskningsspørgsmål, etik og værdispørgsmål og langsigtede spørgsmål. Den første kategori inkluderer svar på de spørgsmål, som skaberne af AI står over for, herunder hvordan finansieringen skal fortsætte. Den anden kategori berører sikkerhedsspørgsmål og måder at neutralisere truslen på. Den tredje beskriver de mulige risici, som menneskeheden kan stå over for, når AI når sit højdepunkt, og den såkaldte superintelligens vises.
Disse principper blev udviklet på en konference om AI-diskussion i begyndelsen af januar 2017. DeepMind-administrerende direktør Demis Hassabis bidrog til skrivningen.
