En gruppe matematikere hævdede, at uprovosabel matematik er en uovervindelig barriere for maskinlæringsalgoritmer. Nu var de i stand til at bevise det i praksis.
Ikke alt i verden kan kendes. I det mindste gælder dette for kunstig intelligens og maskinlæringsalgoritmer. Ved første øjekast kan en sådan erklæring i vores fremskridtsalder muligvis lyde som en rigtig kætteri - men desværre er dette tilfældet. En international gruppe af matematikere og AI-forskere har fundet, at til trods for det tilsyneladende ubegrænsede potentiale ved maskinlæring, er selv de mest avancerede algoritmer bundet af matematiske begrænsninger.
"Fordelene ved matematik er undertiden bygget på det faktum, at … i enkle vendinger, ikke alt kan bevises," skriver forskerne, ledet af computerforsker Shai Ben-David fra University of Waterloo. De hævder, at maskinindlæring deler denne skæbne.
Hvordan kom de til denne konklusion? Matematiske begrænsninger er ofte forbundet med den berømte østrigske matematiker Kurt Gödel, der i 1930'erne udviklede ufuldstændighedsteoremer - to antagelser, der viser begrænsningerne i formel aritmetik (og som en konsekvens, ethvert formelt system, der bruger begreberne i denne aritmetik: 0 og 1, tilføjelse og multiplikation og naturlige tal). Ny forskning har kun bevist, at maskinlæring er låst inden for samme ramme.
Lige nu er AI bogstaveligt talt begrænset af uprovosabel matematik. Med andre ord kan kunstig intelligens ikke løse et problem, hvis algoritme ikke giver mulighed for en "sand" eller "falsk" løsning. Matematiker Amir Yehudayov fra Technion-Israel Institute of Technology indrømmede i et interview med tidsskriftet Nature, at dette var en overraskelse for forskere. Undersøgelsen blev bygget op omkring et websted: algoritmen måtte vise målrettede annoncer til besøgende, der oftest besøger siden - uden på forhånd at vide, hvilke besøgende der ville besøge den. Dette er et såkaldt estimering af det maksimale (EMX) problem.
Ifølge forskerne kan rødderne af det matematiske problem ligge i strukturen i indlæringsalgoritmen kendt som "sandsynligvis tilnærmelsesvis korrekt læring" eller PAC. Det ligner også meget det matematiske paradoks, der kaldes kontinuumhypotesen. Ligesom fuldstændighedsteoremer, er denne hypotese relateret til matematik, som ikke kan bevises inden for rammerne af et sandt / falskt system. Hypotetisk, selv for den mest perfekte algoritme, er dette en blindgyde, hvorfra den ikke kan komme ud. Matematikere erkender, at unprovabilitet er en byrde, som maskiner nu skal bære. Lev Reizin, der ikke var involveret i undersøgelsen, bemærker, at disse foranstaltninger "måske er i stand til at undervise AI ydmyghed, selvom det fortsætter med at revolutionere verden omkring os."
Vasily Makarov