Alguns dels científics més destacats del món han signat conjuntament un document en què alerten dels perills de la intel·ligència artificial (IA). El text, publicat a la revista Science, alerta que aquesta mena de tecnologia podria provocar l'extinció de la humanitat. “Aquest avenç sense control de la IA podria culminar amb una pèrdua a gran escala de vides i de la biosfera, i la marginació o extinció de la humanitat”, es recull al document signat per 25 científics en aquest camp, entre ells alguns Premis Nobel.
El grup de científics alerta que ja es poden crear “sistemes d'IA altament poderosos que superen les capacitats humanes en molts dominis crítics”. Justament per això, reclamen que hi hagi un consens a l'hora de regular aquesta tecnologia, tot i que aquesta actualment no existeix. “Les actuals iniciatives de governança no disposen de mecanismes i institucions per prevenir el mal ús i la imprudència i amb prou feines aborden els sistemes autònoms”, apunten al text.
“Una vegada que els sistemes d'IA autònoms persegueixin objectius indesitjables, és possible que no puguem controlar-ho”, alerten en el document i exemplifiquen: “Per avançar en objectius indesitjables, els sistemes d'IA podrien guanyar la confiança humana, adquirir recursos i influir en els qui prenen decisions clau”. Els experts assenyalen que és una amenaça a diversos nivells, des de militar a social.
Propostes per regular aquesta tecnologia
Els 25 experts recomanen que els governs han d'establir institucions expertes d'acció ràpida per a la supervisió de la IA, els quals han d'estar ben finançades. També es reclama a les empreses que desenvolupen aquesta tecnologia que hi hagi més transparència: “La presa de decisions de la IA és opaca, i els models més grans i potents són més complexos d'interpretar. Fins ara, només podem provar models grans mitjançant assaig i error. Hem d'aprendre a entendre el seu funcionament intern”.
Mentre aquests científics demanen més regulació, transparència i alerten dels riscos que les empreses que desenvolupen aquestes tecnologies volin per lliure, OpenAI ha suprimit el seu departament enfocat a analitzar els riscos de futur de la IA. Feia només un any que existia i es preveia destinar a aquesta divisió, que rebia el nom de Superalignment, fins a un 20% de la “potència de càlcul” d'OpenAI durant quatre anys per, entre altres línies de recerca, avaluar possibles perills derivats dels nous escenaris que obre la intel·ligència artificial. Tot i això, d'acord amb la premsa dels EUA, la plantilla d'aquesta secció està sent recol·locada en altres seccions dins de la companyia.