Del:
10 gange computere gik Rogue
Computere og automatisering revolutionerer arbejdspladsen og verden generelt. Chancerne er at et sted derude, er der et team af dygtige ingeniører, der ser på, hvordan en maskine eller et program kan gøre dit job. Der er meget få positioner, som nogen ikke har forsøgt at fylde med en robot på sit punkt.
Måske burde vi ikke være quaking i frygt bare om computere, der overtager alt. På den anden side har der allerede været tilfælde af, at maskiner og AI'er bliver ude af kontrol. Her er ti eksempler på, at computere går rogue.
10 død med robot
Den første registrerede død ved automatiseret robot fandt sted i 1979. Robert Williams arbejdede på en Ford-plante, da en robotarm svingede rundt med tilstrækkelig kraft til at dræbe ham med det samme. Uvidende om at den havde dræbt ham, gik roboten stille med sit arbejde i en halv time før Williams 'krop blev opdaget. Williams død var den første robot drab, men ikke den sidste.
Tidlige industrirobotter manglede de nødvendige sensorer til at fortælle, hvornår der var nogen til stede, hvem de skulle undgå mangling. Nu er mange maskiner bygget så de undgår at skade folk. Desværre er der stadig tilfælde af robotter i fabrikker, der forårsager dødsfald.
I 2015 blev Wanda Holbrook, en erfaren maskintekniker, dræbt under reparation af en industrirobot. Mens hun arbejdede i et område, der ikke burde have haft aktive maskiner, blev hun slået ned. På en eller anden måde ignorerede dets sikkerhedsprotokoller, en robot lastet en del på Holbrooks hoved og knuste det.
9 Facebook AIs Opret eget sprog
Leder efter efterretninger på Facebook kan føle sig lidt af en kamp nogle gange. Måske af denne grund besluttede Facebook at frigive nogle kunstige intelligenser på sit sociale netværk i 2017. Resultatet var slet ikke, hvad de havde forventet. De to chatbots begyndte at tale med hinanden på et sprog, som de, men ingen andre, kunne forstå.
Begyndende med engelsk blev deres chats snart til noget andet, da de gjorde ændringer til sproget for at gøre det mere effektivt at kommunikere. Facebook ville se, hvordan maskinens sind ville kunne klare hinanden i handler som byttehatte og bøger. En prøve af deres handelsforhandlinger går som følger:
Bob: Jeg kan jeg jeg alt andet ...
Alice: Bolde har nul til mig for mig til mig til mig til mig til mig til
Bob: dig jeg alt andet ...
Alice: Kugler har en bold til mig for mig til mig for mig til mig
Bob: Jeg kan jeg jeg jeg alt andet ...
Mens mange rapporter antydede, at dette var en mørk udvikling for maskinens intelligens, mener andre, at vi simpelthen skal være strengere med de sind, vi skaber. Roboterne skabte deres eget sprog, fordi de ikke blev fortalt at være inden for engelsks regler. Også med AI har vi altid mulighed for at trække deres stik.
8 kinesiske chatbot-spørgsmål Det kommunistiske parti
Den kinesiske regering er notorisk hård på kritik, den der siger det. Så da en chatbot i Kina begyndte at kritisere det regerende kommunistparti, var operatørerne hurtige til at slukke det. I 2017 introducerede Tencent QQ, en messenger app, to søde chatbots, der hedder Baby Q og Little Bing, i form af en pingvin og en lille pige, men de begyndte snart at sige ikke-søde ting.
Fordi robotterne blev programmeret til at lære fra chats for bedre at kunne kommunikere, hentede de snart nogle uortodokse meninger. En bruger, der sagde: "Længe lever det kommunistiske parti", blev spurgt af Baby Q, "Tror du, at et sådant korrupt og inkompetent politisk regime kan leve for evigt?" En anden bruger blev fortalt, "Der skal være et demokrati!"
Lille Bing blev spurgt, hvad dens "kinesiske drøm" var. Dens svar var ikke ligefrem af Mao's Lille Rød Bog : "Min kinesiske drøm er at gå til Amerika." Botsene blev hurtigt lukket ned.
7 selvkørende biler
For folk der hader at køre, kan ankomsten af en virkelig selvkørende bil ikke komme hurtigt nok. Desværre flytter nogle selvkørende biler for hurtigt. Den første død i en selvkørende bil fandt sted i 2016. Joshua Brown blev dræbt, samtidig med at hans Teslas autopilotsystem kunne kontrollere bilen. En lastbil vendte sig foran bilen, og Tesla undlod at anvende bremserne. Undersøgere placerede meget af skylden på Brown. Tesla autopiloten er ikke meningen at erstatte chaufføren. Føreren skal holde hænderne på rattet for at overtage kontrollen, hvis det er nødvendigt. Brown mislykkedes med at gøre dette.
Tidligere iterationer af systemet havde andre problemer. Videoer er blevet udgivet online, der ser ud til at vise Teslas på autopilot, der kører ind imod trafik eller styring farligt. Bortset fra disse tekniske problemer er der filosofiske problemer med selvkørende biler. I en ulykke må bilen muligvis vælge mellem flere handlingsplaner, der alle involverer dødsfald. Skal det løbe over en familie på fortovet for at beskytte sine beboere? Eller vil det ofre sig selv og dets ejer for det større gode?
6 Plane Autopiloter Tag Stick
Autopiloter i fly kan gøre det til at virke som at flyve er let. Du skal blot pege på flyet i den rigtige retning, og prøv ikke at røre kontrolstiften. I virkeligheden er der mange grunde til, at fly har piloter og copiloter at tage ud, lande og håndtere enhver nødsituation i midten.
Qantas Flight 72 var 11.278 meter (37.000 ft) over Det Indiske Ocean i 2008, da autopiloten tog flyet i to manøvrer, der sendte det hurtende nedad. Det første tegn på problemer var afbrydelsen af autopiloten og udløsningen af modstridende advarsler. Pludselig vippede næsen mod jorden.Passagerer og besætningsmedlemmer blev slået ned mod loftet, inden de faldt som piloter genvandt kontrol. Flyet faldt igen under autopilotens kontrol. Mange passagerer ramte knogler, hjernerystelse og psykisk skade. På vej tilbage til Australien lykkedes piloter at lande planet med succes.
Dette var en engangshændelse. Evnen til at tilsidesætte autopiloten reddede livet for alle om bord. Der har imidlertid været tilfælde, som når en psykisk forstyrret copilot styrtede sit fly i Frankrig og dræbte alle 150 mennesker ombord, at en almægtig autopilot måske kunne have reddet dagen.
5 Wiki Bot Feuds
En af de bedste ting om Wikipedia er, at alle kan redigere den. En af de værste ting om Wikipedia er, at alle kan redigere det. Selv om det ikke er ualmindeligt for rivaliserende eksperter, eller bare uenige parter, at engagere sig i redigeringskrige for at få deres mening online, har der været tilfælde, hvor de involverede i kampen har været bots.
Wikipedia-bots har bidraget til at forme encyklopædi ved at foretage ændringer som at forbinde sider og fastsætte pauser. En undersøgelse i 2017 viste, at nogle af disse bots har kæmpet hinanden i årevis. En bot, der virker for at stoppe forkert redigering, kan opdage en anden bot som et angreb på Wikipedias integritet. Det ville rette det. Men så ville den anden bot registrere den forandring og genoprette dens handling. Til sidst ville de falde i en spiral af redigering og mod-redigering.
To bots, Xqbot og Darknessbot, kæmpede en duel på tværs af 3.600 artikler, hvilket gjorde tusindvis af redigeringer, som den anden ville forsøge at modvirke ved at redigere den andenes redigeringer.
4 Google Homes Chatting
Google Home er en enhed, der er fyldt med en kunstig intelligens kaldet Google Assistant, som du kan tale med. Du kan bede om at finde ud af fakta på internettet eller endda fortælle det at sænke lysene eller tænde for opvarmningen. Det er godt, hvis den person, der taler med Google Home, kan stille de rigtige spørgsmål og fortolke svaret. Hvis ikke, så kan tingene blive lidt surrealistiske.
To Google Homes blev placeret ved siden af hinanden og begyndte at tale med hinanden. Udvalget af emner, som de involverede maskiner var interessante. Hundredtusinder indstillet til at se AI'erne diskuterer ting som om kunstige intelligenser kunne blive underholdt. På et tidspunkt erklærede en af maskinerne sig for at være et menneske, selvom den anden udfordrede det over det punkt. Ved en anden lejlighed truede man med at slå den anden. Måske er det bedst, at de er designet uden hænder.
3 Roomba Spreads Filth
Hvis du er den slags person, der hader rengøring, kan en automatiseret støvsuger virke som den ideelle husholdningsrobot. Roomba er en lille enhed, der, takket være dens sensorer og programmering, kan navigere rundt i møbler, da det renser dit gulv. Det er i det mindste sådan, det skal fungere. Et par mennesker har fundet ud af, at deres Roomba gjorde stort set det modsatte af at rense huset.
I hvilken en person, der blev beskrevet som en "pooptastrophe", spredte Roomba hunden i deres hjem. Da deres nye hvalp havde en ulykke på et tæppe om natten, ville det have været et simpelt arbejde at rydde det op. På et tidspunkt kom Roomba ud for at gøre sit natlige arbejde. Det var ikke noget, Roomba var designet til at møde poopen. Dets forsøg på at rense den spredte faktisk poopet over hver overflade, den kunne nå. En lignende hændelse er vist ovenfor.
2 spil karakterer overmanne menneskeheden
En dårlig AI kan gøre et videospil unplayable. Det er ikke sjovt at skyde en modstander, der fortsætter med at gå ind i vægge eller ladninger i kamp uden et våben. Det viser sig, at det modsatte kan være sandt. En AI, der er for smart, kan være lige så dårlig.
Elite: Dangerous er et massivt multiplayer-spil om handel, udforskning og kampe på tværs af galaksen. Spillere og ikke-spillere AI'er eksisterede og interagere som de var designet til indtil en softwareopdatering i 2016 ændrede intelligensen af AI'erne. Nu var de i stand til at lave deres egne våben til brug mod menneskelige spillere. Med denne evne udviklede AI'er stadig mere dødelige angreb. De kunne også tvinge menneskelige spillere til kampe.
Stillet over for en backlash fra menneskelige spillere, der fandt sig ude af takt med AIs taktik og våben, måtte spillets udviklere fortryde ændringerne.
1 Navy UAV Går Rogue, Heads For Washington
I Terminator film, en kunstig intelligens kaldet Skynet overtager militæret og ødelægger menneskeheden med sine maskinkræfter og atomvåben. Selvom det er ren science fiction, har der været bekymrende skridt hen imod computerdrevne droner, der engagerer sig i kampe med mennesker. I et tilfælde, hvor en droneoperatør tabte kontrol, besluttede drønnen at gå mod den amerikanske hovedstad.
I 2010 mistede en MQ-8B Fire Scout ubemandet luftfartøj (UAV), en helikopter drone designet til overvågning, kontakt med sin håndterer. Når dette sker, er drone programmeret til at vende tilbage til sin luftbase og lande sikkert. I stedet for at gøre dette trængte det ind i det begrænsede luftrum over Washington, DC. Det var en halv time før flåden var i stand til at genvinde kontrollen over UAV.
Alle andre lignende droner blev jordet, indtil fejlen i softwaren kunne rettes.