Tämä filos. tarkastelu ...
Meillä on itseajavia autoja ja päätelmiä tekeviä algoritmeja. Näiden ongelmana on se, että koodarit itse eivät tiedä mitä ja miten ohjelmat tekevät näitä päätelmiä.
Itseajavia...!
Luulisi, että koodarit koodaavat ohjelmaan ne säännöt ja etiikan, jota kuvittelevat ihmisten autoa ajaessaan käyttävän.
Koodaaminen tapahtuu ilmeisesti alitajuisesti kuviteltua etiikkaa noudattaen, ei julki kirjoitettua säännöstöä noudattaen.
Se julkikirjoitettu säännöstö taitaa olla mahdottomuus siksikin, että ajatellaan autojen kommunikoivan keskenään ja oppivan koko ajan liikenteessä.
Tämä tarkoittaa itseajavan auton moraalin ja etiikan olevan toinen kuin ihmisen ajaman toisen auton.
Tuo autojen keskenään kommunikointi on avoin ovi hakkerointiin.
Jos kuvitellaan että itseajavan auton ohjelma estää sitä ryntäämästä ihmisjoukon päälle, voi myös kuvitella että suuri joukko itseajavia autoja saa yht'äkkiä päähänsä alkaa surmata ihmisiä.
