Este miércoles se desarrolla la cumbre para riesgo existencial para el ser humano».
El grupo, que incluye a Andrew Yao, uno de los científicos informáticos más destacados de China, pide la creación de un organismo regulador internacional, el registro y la auditoría obligatorios de los sistemas avanzados de IA, la inclusión de procedimientos de «apagado» instantáneo y que los desarrolladores gasten el 30 por ciento de su presupuesto de investigación en la seguridad de la IA.
Los académicos detrás de la declaración conjunta, que también fue firmada por expertos occidentales como Yoshua Bengio, de la Universidad de Montreal, se reunieron en octubre en la casa de campo de Ditchley Park, cerca de Oxford señala Financial Times.
«Habiendo aprendido lecciones de hacer frente a los daños ambientales, debemos trabajar juntos como comunidad global para garantizar el progreso seguro de la IA», dijo Yao, uno de los organizadores de la declaración.
Ya-Qin Zhang, decano de la Universidad de Tsinghua y expresidente del gigante tecnológico Baidu, dijo que era necesario garantizar que la futura inteligencia artificial general fuera «segura y confiable».
En un discurso que se pronunciará en Londres este miércoles 1 de noviembre, la vicepresidenta de Estados Unidos, Kamala Harris, argumentará que, si bien «la IA tiene el potencial de hacer un bien profundo, también tiene el potencial de causar un daño profundo, desde ataques cibernéticos habilitados por IA a una escala más allá de cualquier cosa que hayamos visto antes hasta armas biológicas formuladas por IA que podrían poner en peligro la vida de millones de personas».
