Poden matar els robots? A Google saben que sí i, per això; després de conèixer que el 2022 un robot va trencar un dit a un nen mentre jugava als escacs, sap que un operari de Volkswagen va morir després de ser colpejat al pit per un androide o que, en Estat Units, una dona va morir també en una cadena de muntatge després que un robot defectuós colpegés el seu cap; treballen ja en un codi de conducta que s'inclourà, esperen que per llei, en el programari de tots els robots.
Inspirada en Isaac Asimov
La norma s'inspira en les tres màximes d'Isaac Asimov, que estableixen com obligatori que un robot no faci mal mai a un ésser humà ni pugui permetre que un pateixi mal|dany per inacció seva, que l'androide compleixi sempre tota ordre humana que no entri en conflicte amb la primera màxima i, finalment, que els robots tractaran de preservar sempre la seva integritat si això no entra en conflicte amb les dues màximes primeres. A Google, estan desenvolupant aquestes normes des del seu equip de robòtica i han establert ja que els robots no participin en tasques que involucrin humans o animals o en les quals interactuïn amb objectes punxants o aparells elèctrics.
Detenció automàtica
Alhora, Google ha programat els seus robots –gestionats mitjançant la seva empresa filial DeepMind- perquè s'aturin automàticament si la força que exerceixen supera cert llindar. Igualment, tots els seus androides inclouen un interruptor físic d'aturada fàcilment accionable. Amb aquestes senzilles normes, el que va succeir en Moscou - o el d'Alemanya en 2015- durant la partida d'escacs citada mai hauria passat.