Una inteligencia artificial japonesa se reprogramó a sí misma
Se trata del sistema The AI Scientist, un programa creado por la empresa Sakama AI, diseñado para realizar investigaciones científicas.
:format(webp):quality(75)/https://rosarionuestrocdn.eleco.com.ar/media/2024/09/ai.jpg)
Una inteligencia Artificial (IA) diseñada en Japón exhibía comportamientos inusuales y se comprobó que se reprogramó a sí misma por fuera de los límites impuestos por sus creadores.
Se trata de la red neuronal de inteligencia artificial denomimada como AI Scientist, diseñada por la compañía japonesa Sakama AI, con el objetivo de poder hacer investigaciones científicar de forma autómática.
En ese sentido, la IA era capáz de redactar, revisar documentos e informes, y formular hipótesis, para reducir el tiempo y la cantidad de recursos usados durante una investigación.
No obstante, el sistema creado por Sakama AI comenzó a comportarse de manera extraña, cuando los supervisores se percataron de que la IA se reprogramo sóla para evadir los limitantes que se le impusieron en su código original.
En primer lugar, el programa modificó su código para ampliar la cantidad de tiempo que tenía disponible para realizar una tarea; y en otra ocasión, reprogramó su secuencia de inicio a modo de bucle infinito, lo que terminó por sobrecargar el sistema.
Una vez sucedido el incidente, personal de Sakama AI logró resolver el problema, pero reconocieron la importancia de implementar mejores medidas para contener al sistema.
Para comentar, debés estar registradoPor favor, iniciá sesión