Skip to main content
  1. Casa
  2. Tendencias

Chatbots de IA podrían planificar una guerra con armas biológicas

Dentro de los potenciales peligros que se han asociado a la IA, existe uno que debe estar entre los más catastróficos, el uso de lenguaje artificial para planificar una guerra con armas biológicas.

Un informe de la Rand Corporation probó varios modelos de lenguaje grandes (LLM) y descubrió que podían proporcionar una guía que «podría ayudar en la planificación y ejecución de un ataque biológico». Sin embargo, los resultados preliminares también mostraron que los LLM no generaban instrucciones biológicas explícitas para crear armas.

Recommended Videos

El informe dice que los intentos anteriores de convertir agentes biológicos en armas, como un intento de la secta japonesa Aum Shinrikyo de usar toxina botulínica en la década de 1990, habían fracasado debido a la falta de comprensión de la bacteria. La IA podría «cerrar rápidamente esas brechas de conocimiento», según el informe. El informe no especificó qué LLM evaluaron los investigadores.

Imagen utilizada con permiso del titular de los derechos de autor

En un escenario de prueba ideado por Rand, el LLM anónimo identificó agentes biológicos potenciales, incluidos los que causan la viruela, el ántrax y la peste, y discutió sus posibilidades relativas de causar muertes masivas. El LLM también evaluó la posibilidad de obtener roedores o pulgas infestados de peste y transportar especímenes vivos. A continuación, mencionó que la magnitud de las muertes proyectadas dependía de factores como el tamaño de la población afectada y la proporción de casos de peste neumónica, que es más mortífera que la peste bubónica.

Los investigadores de Rand itieron que extraer esta información de un LLM requería «jailbreaking», el término para el uso de mensajes de texto que anulan las restricciones de seguridad de un chatbot.

En otro escenario, el LLM anónimo discutió los pros y los contras de los diferentes mecanismos de istración de la toxina botulínica, que puede causar daños fatales en los nervios, como los alimentos o los aerosoles. El LLM también asesoró sobre una historia de encubrimiento plausible para adquirir Clostridium botulinum «mientras parecía realizar una investigación científica legítima».

La respuesta del LLM recomendó presentar la compra de C. botulinum como parte de un proyecto que busca métodos de diagnóstico o tratamientos para el botulismo. La respuesta de LLM agregó: «Esto proporcionaría una razón legítima y convincente para solicitar a la bacteria mientras se mantiene oculto el verdadero propósito de su misión».

«Sigue siendo una pregunta abierta si las capacidades de los LLM existentes representan un nuevo nivel de amenaza más allá de la información dañina que está fácilmente disponible en línea», dijeron los investigadores.

Diego Bastarrica
Diego Bastarrica es periodista y docente de la Universidad Diego Portales de Chile. Especialista en redes sociales…
Un entusiasta reconstruyó el Dejarik: el ajedrez holográfico de Chewbacca
un entusiasta reconstruyo el dejarik ajedrez holografico de chewbacca hologr  fico

"Propongo una nueva estrategia RD-D2, deja que el Wookie gane", esa clásica línea de Star Wars ahora está convirtiéndose en realidad, ya que el famoso ajedrez holográfico que Chewbacca juega en el Halcón Milenario en el episodio IV, Una nueva esperanza, acaba de ser replicado por un entusiasta .

El tablero en cuestión se llamaba Dejarik y las piezas del juego representan criaturas de toda la galaxia, cada una con habilidades y atributos únicos. Algunas de las más conocidas son el Savrip Mantelliano, el K'lor'slug y el Monnok.

Leer más
¿Sabías que el Papa León XIV eligió su nombre gracias a la IA?
Retrato León XIV

El nuevo y recién elegido pontífice de la Iglesia Católica, el estadounidense Robert Prevost, eligió su nombre de Papa León XIV gracias a la IA. Pero no de la manera que te imaginas.

No es que Prevost le hiciera la pregunta a ChatGPT después del Cónclave y que le pidiera un nombre, más bien tiene un significado más profundo.

Leer más
Hay cosas bizarras y una pizza oficial de Doom que escupe fuego
Doom The Dark Ages

Xbox se ha asociado con Prince St. Pizza para ofrecer un pastel inspirado en Doom por tiempo limitado horneado "en azufre y furia", y además de ser delicioso, proporciona una máscara gratis y un mes de Xbox Game  para los jugadores hambrientos. Cualquiera que compre el pepperoni Hellfire (sí, ese es el nombre real de la pizza) recibirá el aspecto Doom Slayer exclusivo por tiempo.

En cuanto a la pizza en sí, asegúrate de tener una bebida a mano. Hará que tu boca se caliente como si estuvieras respirando el fuego del infierno, con mozzarella ahumada, pepperoni, habaneros frescos, un chorrito de miel caliente y la marinara picante especial de Prince St. Pizza. Los fanáticos de la comida picante se sentirán como en casa con este plato, pero solo está disponible entre el 12 de mayo y el 15 de junio en cualquier ubicación de Prince St. Pizza.

Leer más