Mikor Hallevy először olvasott Isaac Asimovtól bármit, még a science fiction hatáskörébe tartozott arról gondolkodni, hogy
mi történik, ha robotok ölnek.
Ma már viszont a mesterséges intelligencia fejlődésével, az önvezető autók korában, komolyan el kell arról gondolkozni, hogy mi történik, ha valami nem úgy sikerül, ahogy az a szoftverfejlesztő eltervezte.
Dél-Koreában már évek óta robotok őrzik a börtönöket. Mi történik, ha a robot rosszul azonosít be egy dolgozót, és szökni próbáló rabnak nézi? Izraelben több rutinműtétet már robotokra bíznak: ha egy páciens meghal a műtét közben, ki a felelős?
Annak a megállapítása, hogy ki fizet kártérítést az áldozat családjának, nem elég. Gyilkosság esetén a büntetőjog ennél többet követel.
Több elmélet is van, hogy ezt a dilemmát hogyan lehet feloldani. Hallevy ezek közül egyet ismertetett előadásában, mégpedig azt, hogy
a mai büntetőjogi törvények szerint a robotokat el lehet ítélni - sőt, börtönbe is lehet zárni.
Nem emberi lényeket már 400 éve ítélnek el bíróságok: az első vállalatot 1637-ben büntette meg egy angol bíróság.
Jelenleg ahhoz, hogy a büntetőjog elismerje az emberölés tényét az elkövetőnek egy tényszerű, és egy tudatossági kritériának kell megfelelnie.
A tényszerű elem, hogy képes legyen megtenni a gyilkosságot. Ha a robot a hidraulikus karját mozgatni tudja, ezt már teljesíti.
A tudatossági eleme a gyilkosságnak az, hogy az elkövető tudatában legyen annak, mit tesz - ez azonban nem pszichológiai tényező. A tudatosság büntetőjogi értelmezése szerint ha az elkövető felfogja a tényeket, és az alapján cselekszik, akkor tudatosan cselekedett - azaz
ha a mesterséges intelligencia tudja, mit tett, ennek megfelel.
Vagyis az intelligens robotok elítélhetők, börtönbe zárhatók, sőt, halálra is ítélhetők.
De mit jelent egy robot halála? - teszik fel sokan jogosan a kérdést. Az, hogy kihúzzuk a konnektorból, nem akadályozza meg, hogy a tudatuk más robotokban, a közös szoftverben tovább éljen.
A jogalkotók és a fejlesztők feladata így az, hogy olyan
új, jogi és technikai környezetet alkossanak,
amely a robotokat is tudja kezelni, és az emberi életet is tiszteletben tartja.