Kapitel fra en bog udgivet af Polytechnic Museum
Mand og robot - hvor er grænsen mellem dem, og hvilke farer bringer vores nærhed? Baseret på personlig erfaring, adskillige interviews og data fra den nyeste forskning tilbyder den mest respekterede videnskabsmand på området, David Mindell, et bag-kulisserne-look på de mest innovative anvendelser af robotik. Indicaror. Ru udgiver et kapitel fra sin bog “Rise of the Machines Canceled! Myter om robotisering”.
Mennesker opereret - fjernt - autonomt
Dybt om natten, højt over Atlanterhavet i det store åbne rum mellem Brasilien og Afrika, blev en ruteplan med passagerer fanget i dårligt vejr. Den frosne is tilstoppede små rør i flyets næse, som bestemte dens hastighed og overførte data til de computere, der kontrollerede flyet. Computere kunne fortsætte med at flyve uden disse oplysninger, men programmet indlejret i dem sørgede ikke for en sådan justering. Det automatiske fly-by-wire-system overgav sig og slukkede, og overførte kontrol til folket - piloterne, der sad i førerhuset på foringen: 32-årige Pierre-Cedric Bonin og 37-årige David Robert. Bonin og Robert, begge afslappede og lidt trætte, blev overraskede, da de pludselig opdagede, at de skulle manuelt flyve en enorm flyvemaskine i høj højde i dårlige vejrforhold og endda om natten. Og under gunstigere forhold ville det være en vanskelig opgave, som piloter ikke har været stødt på i det seneste. Besætningsbefalet, 58-årige Marc Dubois, fløj ikke flyet i det øjeblik, men hvilede i kabinen. Piloterne måtte bruge dyrebar tid på at kalde ham ind i cockpiten. På trods af det faktum, at flyene i det øjeblik, hvor computere var slukket, var på niveau i lige vandret flyvning, havde piloterne en vanskelig tid med at forstå de magre luftparametre. En af dem trak kontrolhåndtaget mod sig selv, den anden skubbede det frem. Flyvemaskinen fortsatte lige niveau i ca. et minut og begyndte derefter at falde. Piloterne måtte bruge dyrebar tid på at kalde ham ind i cockpiten. På trods af det faktum, at flyene i det øjeblik, hvor computere var slukket, var på niveau i lige vandret flyvning, havde piloterne en vanskelig tid med at forstå de magre luftparametre. En af dem trak kontrolhåndtaget mod sig selv, den anden skubbede det frem. Flyvemaskinen fortsatte lige niveau i ca. et minut og begyndte derefter at falde. Piloterne måtte bruge dyrebar tid på at kalde ham ind i cockpiten. På trods af det faktum, at flyene i det øjeblik, hvor computere var slukket, var på niveau i flyvning i lige niveau, var det ikke let for piloterne at fornemme de magre luftparametre. En af dem trak kontrolhåndtaget mod sig selv, den anden skubbede det frem. Flyvemaskinen fortsatte lige niveau i ca. et minut og begyndte derefter at falde.og begyndte derefter at falde.og begyndte derefter at falde.
Den 1. juni 2009 spiralede Air France Flight 447 i havet og dræbte mere end 200 passagerer og besætning. Han forsvandt næsten sporløst i bølgerne. I et verdensomspændende sammenkoblet system af internationale luftfartsselskaber kan det ikke tænkes, at flyet simpelthen forsvinder. Der blev organiseret et stort koordineret søgearbejde. Bare et par dage senere blev der fundet spor af flyet på havbunden. Ikke desto mindre var det nødvendigt at foretage søgninger på et stort territorium af havbunden, som bevægede sig håbløst langsomt for at finde størstedelen af vraget af flyvemaskinen og de sorte kasser, takket være det var muligt at fastslå årsagen til tragedien. Mere end to år senere, på en dybde på 3,2 km, næsten på det tidspunkt, hvor flyvemaskinen styrtede ned på havoverfladen,et autonomt undersøisk køretøj kaldet Remus 6000 gled lydløst gennem mørket under vandets søjle. Bevægelsen lidt hurtigere end en fodgænger, roboten formet som en torpedo holdt en konstant højde på omkring 60 m over bunden. I denne position modtog hans akustiske scanner de klareste billeder. Det akustiske signal kørte omkring 800 m i alle retninger, roboten indsamlede gigabyte information gennem de returnerede signaler.roboten indsamlede gigabyte information gennem de returnerede signaler.roboten indsamlede gigabyte information gennem de returnerede signaler.
Overfladen var bjergrig, så havbunden steg kraftigt. På trods af sin kunstige intelligens ramte roboten lejlighedsvis overfladen, oftest uden nogen konsekvenser. Tre af disse robotter arbejdede harmonisk i tandem: mens to af dem søgte under vand, var den tredje om bord på skibet på overfladen. Et sådant "pit stop" tog tre timer, hvor folk, der betjener roboten, skrev om information, genopladede batterierne og satte nye søgeplaner. På skibet arbejdede et team på tolv ingeniører fra Woods Hole Oceanographic Research Institute, ledet af Mike Purcell, som var banebrydende for design og udvikling af søgekøretøjer, tolv timers skift. De blev lastet som ethvert formel 1-mekanikerteam.
Da enheden steg op til overfladen, tog det ingeniørerne ca. 45 minutter at hente de oplysninger, den havde indsamlet, til en computer, derefter en anden halv time at behandle dem, så de hurtigt kunne ses på skærmen. Franske og tyske efterforskere og repræsentanter for Air France kiggede over deres skuldre. Deres handlinger virkede beregnede og forsigtige, men spændingerne hang i luften: indsatserne var for høje både hvad angår franskernes nationale stolthed og hvad angår Airbus-flyproducentens omdømme og med hensyn til sikkerheden ved alle flyrejser.
Salgsfremmende video:
Flere tidligere ekspeditioner var ikke succesrige. I Frankrig, Brasilien og over hele verden ventede ofrenes familier på nyheder. At dechiffrere oplysninger fra en akustisk scanner kræver omhyggelig analyse, der ikke kan tillid til en computer fuldstændigt. Purcell og hans ingeniører stole på mange års erfaring. På deres skærme studerede de den stenede bund kilometer efter kilometer. Dette rutinearbejde varede i fem dage, indtil dens monotoni blev afbrudt: der opstod en ophobning af affald på skærmen, og så kom forskerne til katastrofeområdet - de modtog et stærkt signal fra kunstige genstande i havørkenen. I det mindste antog de det, men kunne stadig ikke sige med sikkerhed. Ingeniørerne omprogrammerede køretøjer, så de vendte tilbage til katastrofeområdet og bevægede sig frem og tilbage gennem det. Denne gang måtte robotterne gå tæt nok til, at kameraerne kunne tage fotografier i en højde af ca. 9 m over bunden i lyset fra sidelysene. Da køretøjerne bragte billederne til overfladen, så ingeniører og efterforskere katastrofens område og fik et svar: De fandt vraget af et fly, der blev en grav for hundreder af mennesker. Snart vendte et andet hold tilbage til scenen med tragedien med en anden type robot - et fjernstyret undervands køretøj. Snart vendte et andet hold tilbage til scenen med tragedien med en anden type robot - et fjernstyret undervands køretøj. Snart vendte et andet hold tilbage til scenen med tragedien med en anden type robot - et fjernstyret undervands køretøj.
Det var et kraftigt udstyr specielt designet til at arbejde på dybden. Det blev tilsluttet skibet ved hjælp af et kabel. Ved hjælp af kort genereret fra en vellykket søgning, lokaliserede ROV de sorte bokse - flyets stemmeoptager og datalogger - og løftede dem til overfladen. Registreringer af de dødsdømte piloters sidste minut blev hentet fra havdypet, og nu kunne efterforskere genskabe de skæbnesvangre omstændigheder, der førte til forvirring ombord på robotflyvemaskinen. Derefter gik det undervands køretøj ud på en trist mission - at hente resterne af de døde.
Nedbruddet af Air France Flight 447 og en operation for at finde dets vrag ødelægger moderne automatisering og robotik i to ekstreme miljøer: ved kanten af stratosfæren og i havets dybder. Flyet faldt i havet på grund af fejl i menneskelig interaktion med automatiserede systemer. Derefter blev fragmenterne opdaget af mennesker ved hjælp af fjernstyrede og autonome robotter.
Selvom ordene "automatiseret" og "autonom" (i deres mest almindelige betydninger) indebærer, at sådanne systemer fungerer uafhængigt, skyldtes fiasko eller succes ikke i begge tilfælde maskiner og personer, der handler separat, men på grund af maskinernes kombinerede handling. og mennesker. Menneskelige piloter kæmpede for et fly, der blev automatiseret for større sikkerhed og pålidelighed; mange sammenkoblede skibe, satellitter og frie flydende bøjer hjalp med at lokalisere styrtstedet; ingeniører behandlede oplysninger modtaget fra robotter og handlede på det.
Automatiske og autonome køretøjer vendte konstant tilbage til deres skabere - mennesker - til information, energi og retning. Tragedien med Air France Flight 447 gjorde det klart, at vi konstant tilpasser og ændrer vores miljø ved at tilpasse os selv. Hvordan kunne piloter blive så afhængige af computere, at de faldt et perfekt fungerende fly til søs? Hvilken rolle har mennesker i områder som transport og transport, forskning og militære aktiviteter, når flere og flere opgaver af primær betydning ser ud til at blive udført af maskiner? Det ekstreme synspunkt er, at mennesker er tæt på at "gå ud af brug", at robotter "bogstaveligt talt har brug for en softwareopdatering" for at blive fuldstændigt autonome, som Scientific American for nylig skrev. Dette synspunkt fortæller osat robotter går videre - vi møder dem i stigende grad i et velkendt miljø. Bekymringer for den ukendte og tvivlsomme egenskaber ved kunstig intelligens stammer fra troen på, at vi er i spidsen af "superintelligens." Vores verden er på randen af forandring, faktisk ændrer den sig allerede under påvirkning af robotter og automatisering.
Pludselig dukker nye projekter op, som udgør gamle drømme om smarte maskiner, der hjælper os med at udføre vores faglige pligter, lette fysisk arbejde og rutineopgaver i hverdagen. Robotter, der findes og arbejder tæt på mennesker på et fysisk, kognitivt og følelsesmæssigt niveau, bliver et stadig større og lovende forskningsemne. Autonomi - drømmen om, at robotter en dag opfører sig som fuldstændigt uafhængige enheder - forbliver en kilde til inspiration, innovation og frygt. Spændingen skyldes sværhedsgraden af eksperimentet; de nøjagtige former for disse teknologier er langt fra komplette, og endnu mindre sikre er deres sociale, psykologiske og kognitive implikationer.
Hvordan vil vores robotter ændre os? I hvilket billede og lighed vil vi fremstille dem? Hvad bliver der tilbage af vores traditionelle aktivitetsområder - videnskabsmand, advokat, læge, soldat, manager og endda chauffør og vagtmester - når disse opgaver udføres af maskiner? Hvordan skal vi leve og arbejde? Vi behøver ikke at spekulere: for det meste er denne fremtid allerede ankommet i dag, hvis ikke i hverdagen, så under ekstreme forhold, hvor vi har brugt robotter og automatisering i årtier. Mennesket kan ikke eksistere alene i de øverste lag af atmosfæren, i havets dybder, i det ydre rum. På grund af behovet for at sende folk til disse farlige forhold blev robotik og automatisering oprettet og implementeret i disse områder tidligere end inden for andre aktivitetsområder, der er mere kendte for os.
I ekstreme miljøer testes forholdet mellem mennesker og robotter for styrke. Den mest innovative udvikling vises i et sådant miljø. Her har ingeniører den største frihed til at eksperimentere. På trods af fysisk isolering er det her, hvor de kognitive og sociale effekter af forskellige enheder først begyndte at manifestere. Når menneskeliv, dyre udstyr og missionskritiske missioner står på spil, skal autonomi altid begrænses af hensyn til sikkerhed og pålidelighed. Under sådanne forhold forsvinder hverdagens forfængelighed og anliggender midlertidigt i baggrunden, og vi finder, fra det omkringliggende mørke, fragmentariske, spøgelsesorienterede allegorier om menneskeliv i teknologiens verden. Sociale og teknologiske processer i cockpiten på en flyvemaskine eller inde i et dybhavskøretøj adskiller sig ikke grundlæggende fra lignende processer på en fabrik, på et kontor eller i en bil. Men under ekstreme forhold vises de mere eksplicit og er derfor lettere at forstå.
Hver flyvning er en historie, ligesom hver oceanografisk ekspedition, rumfart eller militær operation. Gennem disse historier om specifikke mennesker og maskiner kan vi sammenstyre data om den subtile dynamik. Under ekstreme forhold får vi en idé om vores nærmeste fremtid, når sådanne teknologier kan introduceres i sådanne områder af menneskelig aktivitet som vejtransport, sundhedsvæsen, uddannelse osv. Enheder, der kontrolleres af en person fjernt eller autonomt, åbner kvalitativt nye muligheder for interaktion mellem mennesker og maskiner, nye former for tilstedeværelse og nye oplevelser, samtidig med at vi gør opmærksom på farerne, etiske aspekter og uønskede konsekvenser af at leve rundt på smarte maskiner. Vi ser en fremtid, hvor menneskelig tilstedeværelse og viden bliver vigtigere,end nogensinde, men på en måde usædvanlig og ukendt. Og disse biler er bare vidunderlige.
Jeg er ikke den eneste person, der har beundret fly, rumskibe og ubåde hele mit liv. Faktisk blev heltene i historierne, som jeg vil fortælle nedenfor, ikke kun styret af søgningen efter praktiske fordele - de blev også drevet af en passion for nye teknologier. Det er ikke tilfældigt, at sådanne historier ofte er blevet beskrevet i science fiction-værker om mennesker og maskiner. Historierne om mennesker og maskiner, der interagerer på grænsen af deres muligheder, er fængslende, overraskende og vækker håb om, hvem vi kan blive. Denne entusiasme afspejles undertiden i en naiv tro på teknologiperspektivet. Men gradvis fører en sådan interesse os til de vigtigste filosofiske og humanistiske spørgsmål:Hvem er vi? Hvordan er vi forbundet med vores arbejde og til hinanden? Hvordan udvider vores kreationer vores oplevelse? Hvordan kan vi leve i denne verden i forandring? Disse spørgsmål kommer op på egen hånd, når du begynder at tale med de mennesker, der opretter og kontrollerer robotter og maskiner. Jeg vil gerne dele med dig de oplysninger, jeg modtog fra første hånd, fra de mest detaljerede interviews og resultaterne af den nyeste forskning fra Massachusetts Institute of Technology og andre organisationer, inden for hvilke rammer test af robotik og automatisering udføres under de ekstreme forhold i havdybden, under luftflyvninger (civile og militære) og i rummet. Dette er ikke en imaginær fremtid, men hvad der sker i dag: vi vil se, hvordan folk kontrollerer robotter og modtager information gennem autonome enheder, vi vil analysere, hvordan disse interaktioner påvirker deres arbejde,livserfaring, færdigheder og evner.
Vores historie begynder, hvor jeg selv begyndte - i havdypet. For 25 år siden, da jeg var en ingeniør, der udviklede indlejrede computere og værktøjer til dybhavsrobotter, var jeg forbløffet over at opdage, at denne teknik ændrer oceanografi, videnskabelige metoder og endda selve naturfotografens natur på uforudsigelige måder. Denne forståelse førte til, at jeg havde to parallelle karrierer. Som videnskabsmand har jeg studeret samspillet mellem mennesker og maskiner, fra pansrede skibe under den amerikanske borgerkrig til computere og software, der hjalp Apollo-astronauterne med at lande på månen.
Som ingeniør har jeg integreret de data, der er opnået fra denne forskning, i moderne projekter - ved at udvikle robotter og enheder til brug i tæt interaktion med mennesker. I nogle historier vises jeg som en deltager, i andre - som en observatør og i andre - i begge disse former på én gang. Gennem årene med akkumuleret erfaring, søgning og tale med mennesker, blev jeg overbevist om, at vi må ombestemme os om robotter. Selv det sprog, som vi taler om dem, er snarere hentet fra science fiction fra det 20. århundrede og har intet at gøre med vores tekniske tekniske resultater. For eksempel kaldes fjernstyrede fly droner, som om de var sindeløse automater, når de faktisk kontrolleres strengt af mennesker.
Roboter præsenteres (og sælges) ofte som fuldstændigt autonome formidlere, men selv nutidens begrænsede autonomi findes ofte kun i den menneskelige fantasi. Robotterne, som vi bruger så vidt og varieret, er næppe trusselautomater - de er indlejret i sociale og tekniske netværk, ligesom vi er. Nedenfor vil vi se på mange eksempler på, hvordan vi arbejder sammen med vores maskiner. Det handler om kombinationerne. Det er tid til at overveje, hvilke funktioner moderne robotter faktisk udfører for bedre at forstå vores forhold til disse ofte utroligt dygtige kreationer af menneskelige hænder. Jeg tilbyder dig en empirisk konklusion med forskningsstøttet: uanset hvad robotter gør i laboratoriet, i virkeligheden, hvor menneskeliv og reelle ressourcer står på spil,vi stræber efter at begrænse deres autonomi til det store antal krævede godkendelser og muligheder for menneskelig indgriben.
Jeg argumenterer ikke for, at maskiner er smarte, og jeg siger ikke, at de en dag måske ikke er smarte nok. Tværtimod er min påstand, at sådanne maskiner ikke er isoleret fra mennesker. Lad os liste tre myter fra det 20. århundrede relateret til robotik og automatisering. Den første myte er lineære fremskridt - ideen om, at teknologi vil flytte fra direkte menneskelig kontrol til fjernbetjening og derefter til fuldt autonome robotter. Ordene fra filosofen Peter Singer, der konstant taler til forsvar for autonome systemer, fanger essensen af denne myte. Han skriver, at "folks evne til at opretholde kontrol over, hvad der sker, er ugyldigt både af dem, der er ved roret og direkte af teknologi, og derfor vil folk snart blive udelukket fra kontrolsløjfen." Men der er ingen grund til at antageat evolutionen vil følge denne vej, at "teknologien i sig selv", som Singer skriver, vil føre til noget lignende. Der er faktisk bevis for, at mennesker gradvist kommer i dybere kontakt med deres maskiner.
Vi finder konstant, at mennesker, fjernstyret af dem og autonome køretøjer, udvikler sig parallelt og påvirker hinanden. For eksempel ville ubemandede luftfartøjer ikke være i stand til at flyve i USAs nationale luftrum uden passende ændringer af bemande køretøjer. Eller for at tage et andet eksempel: nye fremskridt inden for robotik inden for rumfartøjsvedligeholdelse afspejles i astronauternes arbejde med Hubble-rumteleskopet. De mest avancerede (og komplekse) teknologier er ikke dem, der fungerer adskilt fra mennesker, men de, der er dybt indlejret i det sociale system og reagerer hurtigere på, hvad der sker i det. Den anden er substitutionsmyten, ideen om, at maskiner gradvist vil begynde at overtage alle de opgaver, mennesker udfører. Denne myte er en version fra det tyvende århundrede af det, jeg kalder Iron Horse-fænomenet.
Til at begynde med forestillede folk sig, at jernbanerne ville ophæve behovet for heste, men tog har vist sig at være meget uvæsentlige heste. Jernbaner indtog deres plads, da folk lærte at gøre helt nye ting med deres hjælp. Menneskelige faktorer forskere og kognitive forskere hævder, at automatik sjældent bare "mekaniserer" menneskelige opgaver. Snarere har de en tendens til at gøre opgaven vanskeligere, ofte ved at øge arbejdsbyrden (eller omfordele den). Fjernstyrede fly udfører ikke de samme opgaver som bemandet fly; de påtager sig nye funktioner. Fjernstyrede robotter på Mars gentager ikke geologernes arbejde i marken;de og de mennesker, der arbejder med dem, lærer at udføre feltundersøgelser i et nyt miljø ved hjælp af fjernmekanismer.
Endelig har vi en tredje myte - myten om fuldstændig autonomi, den utopiske idé om, at robotter kan handle helt uafhængigt i dag eller i fremtiden. Ja, automatisk kan selvfølgelig påtage sig nogle af de opgaver, som mennesker tidligere har udført, og de er faktisk i stand til at handle uafhængigt i en begrænset periode som svar på ændringer i miljøet. Men maskiner, der ikke afhænger af den menneskelige retning, er ubrugelige maskiner. Kun sten kan være virkelig autonom (men endda sten blev skabt og placeret på sin plads takket være sit miljø). Automation ændrer graden af menneskelig involvering i driften af en maskine, men eliminerer ikke behovet for det helt. I ethvert system, endda et tilsyneladende autonomt system, kan vi altid finde en grænseflade, takket være hvilken en person kan kontrollere sit arbejde,læse information og tak, som det bliver nyttigt. For at citere en af de seneste rapporter fra det amerikanske ministerium for forsvarsvidenskabsråd, "Der er ingen fuldt autonome systemer, ligesom der ikke er nogen fuldt autonome soldater, sejlere, flyvere eller marinesoldater."
For at tænke i termer fra det 21. århundrede og ændre vores syn på robotik, automatisering og især den nyere idé om autonomi, må vi forstå, hvordan menneskelige intentioner, planer og antagelser ændrer essensen af den maskine, de skaber. Hver operatør, der kontrollerer sit apparat, interagerer med designere og programmerere, hvis tilstedeværelse i maskinen er ufravigelig - selv i form af strukturelle elementer eller kodelinjer oprettet for mange år siden. Air France Flight 447's indbyggede computere kunne fortsætte med at flyve flyet med begrænsede lufthastighedsdata, men mennesker havde programmeret dem for at forhindre dem i at gøre det. Selv hvis softwaren foretager handlinger, der ikke kan forudsiges, opfører den sig inden for rammerne af de skemaer og begrænsninger, der er fastsat af dens skabere. At,hvordan systemet blev udviklet af hvem og til hvilke formål bestemmer dets muligheder og måder at interagere med de mennesker, der bruger det. Mit mål er at komme væk fra disse myter og forstå begrebet autonomi i sammenhæng med det 21. århundrede.
Gennem historierne, der følger nedenfor, har jeg til hensigt at omforme den offentlige diskurs og skabe et konceptkort for en ny æra. For at oprette et sådant kort, hvor jeg taler om enheder og robotter i denne bog, vil jeg arbejde med begreberne menneskestyret, fjernt og autonomt. Den første er en analog til det ikke altid passende ord "bemandet", derfor betyder "kontrolleret" i nogle tilfælde "kontrolleret af en person i køretøjet". Dette er selvfølgelig gamle og velkendte apparater som skibe, fly, tog og biler - de maskiner, som folk rejser igennem. Normalt betragtes ikke-kontrollerede systemer overhovedet som robotter, selvom de i stigende grad minder om robotter med mennesker indeni. Fjernbetjening, en forkortet form for fjernbetjent køretøj, angiver blot, hvor føreren befinder sig i forhold til køretøjet. Selv når den kognitive opgave med at styre fjernsystemet næsten fuldstændigt falder sammen med den, der udføres direkte af den fysisk tilstedeværende operatør, får operatørens tilstedeværelse eller fravær og de tilhørende risici stor kulturel betydning.
Det mest slående eksempel er fjernkrigsførelse tusinder af kilometer fra en krigszone. Dette er en oplevelse, der er helt anderledes end den almindelige soldats opgaver. Som et kognitivt fænomen er den menneskelige tilstedeværelse sammenflettet med det sociale aspekt. Automation er også en idé fra det 20. århundrede og afspejler stadig det mekanistiske syn på, at maskiner følger forudbestemte procedurer trin for trin. Udtrykket "automatiseret" bruges ofte til at beskrive computere ombord på fly, selvom de indeholder moderne, temmelig komplekse algoritmer. Autonomi er det mere moderigtige ord i disse dage og en af de øverste forskningsprioriteter i det stadig krympende amerikanske forsvarsministerium. Nogle forskere skelner klart mellem autonomi og automatisering, men efter min meningforskellen mellem autonomi ligger kun i en bredere grad af uafhængig beslutningstagning end simpel feedback; Derudover omfatter begrebet "autonomi" mange ideer, der er lånt fra teorien om kunstig intelligens og andre discipliner. Og selvfølgelig bliver ideen om enkeltpersoners og gruppers autonomi årsagen til konstant kontrovers i politik, filosofi, medicin og sociologi. Dette burde ikke komme som nogen overraskelse, da teknikere ofte låner betingelser fra samfundsvidenskaben for at beskrive deres maskiner.ideen om individers og gruppers autonomi bliver årsagen til konstant kontrovers i politik, filosofi, medicin og sociologi. Dette burde ikke komme som nogen overraskelse, da teknikere ofte låner betingelser fra samfundsvidenskaben for at beskrive deres maskiner.ideen om individers og gruppers autonomi bliver årsagen til konstant kontrovers i politik, filosofi, medicin og sociologi. Dette burde ikke komme som nogen overraskelse, da teknikere ofte låner betingelser fra samfundsvidenskaben for at beskrive deres maskiner.
Selv inden for designbranchen kan udtrykket "autonomi" have flere forskellige betydninger. Autonomi i rumfartøjsdesign består af ombordbehandling af de data, der kræves til rumfartøjets drift (hvad enten det drejer sig om en banebrydende automatiseret station eller en mobil robot), der er adskilt fra opgaver såsom missionplanlægning. Ved Massachusetts Institute of Technology, hvor jeg underviser, dækker indholdet af autonomitekniske kurser hovedsageligt "sti-planlægning" - hvordan man kommer fra et punkt til et andet, bruger en passende tid og uden at gå ned i noget. I andre systemer er autonomi analog med intelligens, evnen til at træffe beslutninger, som en person ville tage i bestemte situationer, eller evnen til at handle under betingelsersom ikke blev forventet eller forudset af skaberne af enheden.
Autonome undervandsbeholdere kaldes så, fordi de kører alene og er imod fjernstyrede køretøjer, der er forbundet med skibet med lange kabler. På trods af dette siger de ingeniører, der skaber sådanne autonome ubåde, at deres køretøjer er semi-autonome, da de kun sjældent kører uden kontakt med operatøren. Udtrykket "autonomt" indebærer større handlefrihed. Den beskriver, hvordan apparatet betjenes, hvilket er en potentielt flygtig faktor. En nylig undersøgelse antyder udtrykket "stigende autonomi": på denne måde understreger forfatterne den relative natur af autonomi og siger, at "komplet" autonomi, dvs. maskiner, der ikke har brug for at modtage information fra en person, altid vil være uopnåelige.
I denne bog vil en arbejdsdefinition af autonomi være: menneskeligt udviklede midler til at omdanne information fra miljøet til målrettede planer og handlinger. Ordspørgsmål betyder noget, og det giver kontroverser en anden smag. Men vi skulle ikke dvæle ved dem. Jeg vil ofte stole på det sprog (som undertiden kan være unøjagtigt) brugt af de mennesker, jeg arbejder med. Pointen med denne bog er ikke i definitioner, men i beskrivelser af reelt arbejde - hvordan mennesker bruger disse systemer i den virkelige verden, ved at få nye oplevelser, forske i eller endda kæmpe og dræbe. Hvad sker der virkelig? Hvis du er opmærksom på levende oplevelse fra designere og dem, der bruger robotter, kan alt blive klart. For eksempel,ordet "drone" skjuler robotternes iboende menneskelige natur og tilskriver deres negative sider abstrakte ideer som "teknologi" eller "autonomi." Når vi undersøger Predator-operatørernes indre funktion, lærer vi, at de ikke fører krig med automatiske enheder - mennesker opfinder stadig, programmerer og styrer maskiner.
Der er en lang debat om etik og politikker for fjernmord ved droner med fjernoperatører eller hemmeligholdelsen af sådanne enheder, der opererer i det interne amerikanske luftrum. Men disse debatter har at gøre med arten, stedet og tidspunktet for menneskelige beslutninger, ikke med autonome maskiner. Spørgsmålet er følgelig ikke i kontrasterende bemande og ubemandede køretøjer og ikke i modsætning af mandstyrede køretøjer mod autonome køretøjer. De vigtigste spørgsmål i denne bog er: "Hvor er folket?", "Hvem er disse mennesker?", "Hvad laver de?", "Hvornår laver de det?" Hvor er folket? (På et skib … i luften … inde i biler … eller på et kontor?) Manipulationen af rovdyroperatøren er beslægtet med handlingerne fra en flypilot - han overvåger tilstanden ombord systemer, opfatter information,tager beslutninger og tager visse skridt. Men hans krop er et andet sted, måske flere tusinde kilometer fra resultaterne af hans arbejde. Denne forskel betyder noget. Opgaverne er forskellige. Risikoen er forskellige, og det samme er magtbalancen.
Det menneskelige sind er i stand til at rejse til andre steder, andre lande, til andre planeter. Viden, der er opnået gennem sindet og sanserne, er forskellig fra viden, der opnås gennem kroppen (hvor du spiser, sover, kommunikerer, defecerer). Vi beslutter, hvilken af de to veje for at få viden til at følge, afhængigt af den specifikke situation, og dette har dens konsekvenser for dem, der er involveret i processen. Hvem er disse mennesker? (Piloter … ingeniører … forskere … utrænede arbejdere … ledere?) Skift teknik, og så ændres både opgaven og essensen af den specialist, der arbejder på den. Faktisk vil du ændre hele kontingenten af mennesker, der er i stand til at styre systemet. Det tager mange års studier og uddannelse at blive pilot, og dette erhverv er øverst i personalhierarkiet. Kræver fjernbetjening af et fly de samme færdigheder og egenskaber? Fra hvilke sociale klasser kan arbejdsstyrken rekrutteres?
Stigningen i automatisering på kommercielle fly matcher udvidelsen af pilotdemografi både i industrialiserede lande og over hele verden. Er en forsker nogen, der rejser under farlige forhold, eller nogen, der sidder derhjemme foran en computer? Skal du nyde livet om bord for at blive oceanograf? Kan du udforske Mars, mens du er i en kørestol? Hvad arbejder disse nye piloter, forskere og forskere med fjernadgang? Hvad laver de? (Fly … kontrol … procesinformation … kommunikere?) Fysisk indsats bliver til behandling af visuel information og derefter til en kognitiv opgave. Hvad der plejede at kræve styrke nu kræver opmærksomhed, tålmodighed og hurtig reaktion. Holder piloten sine hænder direkte på kontrolhåndtagene,hvornår flyver han flyet? Eller indtast nøglekommandoer i autopiloten eller flycomputeren for at programmere flyets sti? Hvilken rolle spiller personens vurdering af situationen? Hvad er rollen som ingeniøren, der programmerede den indbyggede computer, eller den luftfartsudvikler, der opsatte den?
Hvornår gør de det? (I realtid … med en vis forsinkelse … på forhånd, år eller måneder før missionen?) Flyvningen af et almindeligt fly finder sted i realtid: en person reagerer øjeblikkeligt på begivenheder, der finder sted, og hans handlinger har en øjeblikkelig virkning. I et rumflyvningsscenarie kan enheden være på Mars (eller nærmer sig en fjern asteroide), i hvilket tilfælde vil det tage 20 minutter, før enheden modtager kommandoen, og 20 minutter, før operatøren ser, at der er sket noget. Eller vi kan sige, at fartøjet lander "i automatisk tilstand", når vi i virkeligheden forstår, at det lander under kontrol af programmerere, der forlod instruktioner flere måneder eller år før landing (selvom vi her måske er nødt til at foretage justeringer af selve konceptet "styring"). Styring af et automatiseret system kan ligne interaktion med et spøgelse. Disse enkle spørgsmål henleder opmærksomheden på omfordeling og omstilling.
Nye former for menneskelig tilstedeværelse og aktivitet er ikke trivielle og svarer ikke til de gamle - den kulturelle identitet af en pilot, der risikerer sit liv med at flyve over slagmarken, adskiller sig fra en person, der kontrollerer et køretøj fjernt fra en jordstation. Men disse ændringer er også uventede - en fjernoperatør kan føle sig mere til stede på slagmarken end en pilot, der flyver højt over den. Videnskabelig information om månen kan være den samme eller endnu mere komplet, når den indsamles af et fjernstyret køretøj og ikke af en person, der landede direkte på planeten. Men den kulturelle oplevelse af måneforsøg i dette tilfælde er en helt anden. Lad os erstatte gammeldags forestillinger med rige - animerede billeder af, hvordan mennesker faktisk skaber og kontrollerer robotter og automatiske systemer i den virkelige verden. Historierne nedenfor er både videnskabelige og tekniske og humanistiske.
Vi vil se, at menneskedrevne, fjerntliggende og autonome maskiner tillader bevægelse og omorientering af menneskelig tilstedeværelse og handling i tid og rum. Essensen i denne bog koger ned på følgende: det er ikke selve modstanden fra menneskestyrede og autonome systemer, der er vigtige, men snarere spørgsmålene - "Hvor er folket?", "Hvem er disse mennesker?", "Hvad laver de, og hvornår?" De sidste, de mest vanskelige spørgsmål vil være: "Hvordan ændrer menneskets opfattelse?", "Og hvorfor betyder det noget?"
