Potenciális veszély, de miért?
Az önállóan tanuló gépeket nem lehet egy bizonyos ponton túl kontroll alatt tartani. Ugyanis, exponenciális lesz a növekedés tanulásában.
Nem lesz olyan gyors számítógép, olyan technológia, ami ezt a rengeteg adatot fel tudná dolgozni, előre tudna kalkulálni – azaz kontrollt tudna gyakorolni.
Ha pedig kicsúszik az irányítás az emberiség kezéből, az komoly problémát jelenthet. Olvass még a témában
Nem azért, mert a gépek „abszolút gonoszak” lesznek, hanem mert, ha gondolkoznak, akkor saját érdeküket előrébb helyezik az ember érdekeinél.
Ez pedig az emberiség, az emberi civilizáció pusztulásához vezethet.






