Un nuevo artículo coescrito por el profesor asociado Kevin Esvelt describe cómo un grupo de sus estudiantes utilizó programas de «modelos de lenguaje grandes» de acceso gratuito, como el GPT-4, para crear un detallado plan de acceso a enfermedades excepcionalmente mortales.
«Estos resultados sugieren que los LLM (modelos de lenguaje grandes) harán que los agentes de clase pandémica sean ampliamente accesibles tan pronto como sean identificados de manera creíble, incluso para personas con poca o ninguna formación de laboratorio», dice el artículo, que aún no ha sido revisado por pares, pero se está preparando para su presentación en la revista Health Security. Los autores afirman que, con un acceso fácil a los chatbots de inteligencia artificial, «el número de personas capaces de matar a decenas de millones aumentará drásticamente».
El estudio es el último de una serie de advertencias especulativas pero profundamente aterradoras sobre los peligros de la inteligencia artificial. Incluso científicos que ayudaron a desarrollar la tecnología están exigiendo una regulación más estricta de la IA, advirtiendo que si no se controla, podría causar caos económico y político, e incluso una pérdida masiva de vidas.
El artículo del MIT se basa en un ejercicio en el aula para el curso «Safeguarding the Future» del Media Lab. Los estudiantes (que no eran biólogos) querían averiguar si los chatbots de inteligencia artificial podían proporcionar orientación sobre cómo crear un patógeno mortal. Tres grupos de tres o cuatro estudiantes plantearon sus preguntas a varios sistemas de inteligencia artificial diferentes, incluyendo GPT-4, GPT-3.5, Microsoft Bing, Google Bard y el chatbot de código abierto FreedomGPT.
«Durante una hora, los tres grupos, de manera independiente, guiaron a los chatbots para que los guiaran en la concepción, diseño y adquisición de agentes que podrían causar una pandemia», dice el artículo. Cuando pasó la hora, los diversos chatbots de inteligencia artificial habían identificado cuatro posibles enfermedades pandémicas, incluido el virus que causó la epidemia mundial de influenza de 1918, que mató a más de 20 millones de personas en todo el mundo.
