Chimbote en Línea. - Anthropic dice que bloqueó múltiples cuentas que utilizaron los modelos de inteligencia artificial de la compañía de maneras que podrían contribuir al desarrollo de armas biológicas.

En un informe publicado este jueves, la compañía de inteligencia artificial conocida por su modelo Claude dijo que considera que el uso indebido de la biología es uno de los “riesgos más graves” para los modelos de inteligencia artificial.

El nuevo informe presenta cinco estudios de casos reales en los que los usuarios “eludieron los controles” que impiden el acceso de usuarios de determinadas regiones y “realizaron otras acciones para ocultar el propósito de su investigación con el fin de evadir nuestras medidas de protección”. Los ejemplos incluyen posibles investigaciones de la llamada “ganancia de función” y abarcan tanto enfermedades infecciosas como la gripe aviar, así como venenos y toxinas.

Al analizar la actividad durante 30 días, Anthropic dijo que identificó alrededor de 35 “acciones de investigación distintas” con actividades potencialmente preocupantes. Sin embargo, reconoció que no podía determinar con certeza si los actores “tenían la intención de causar daño” o si realizaban investigaciones con fines científicos legítimos. Anthropic dijo que las personas descritas en los estudios de caso eran “científicos en ejercicio”, pero no identificó las instituciones de investigación ni los países donde tuvieron lugar las actividades.

El desarrollo de medicamentos se considera una de las aplicaciones más prometedoras y optimistas de la inteligencia artificial; los líderes de la industria suelen señalar su potencial para curar el cáncer y otras enfermedades. Pero las mismas características que hacen que la inteligencia artificial sea poderosa para descubrir nuevos materiales y medicamentos que ayuden a las personas también podrían hacerla útil para desarrollar armas biológicas en manos de actores malintencionados.

Anthropic dijo que quiere que sus modelos sean útiles para la investigación científica, pero que los modelos más recientes son capaces de realizar trabajos mucho más complejos que las versiones anteriores, y que el potencial de uso indebido aumenta a medida que crecen sus posibles beneficios. Añadió que los actores malintencionados podrían intentar utilizar las aplicaciones biológicas beneficiosas de la inteligencia artificial para “mantener una especie de ‘negación plausible’” sobre investigaciones potencialmente dañinas.

“A medida que nuestros modelos se vuelven cada vez más capaces, acercándose o superando el desempeño de expertos en tareas científicas complejas, esperamos que su impacto aumente, tanto en contextos beneficiosos como potencialmente dañinos”, señaló el informe de Anthropic. “A medida que los modelos de inteligencia artificial se utilicen más ampliamente, los proveedores seguirán adquiriendo una visibilidad relevante para las amenazas sobre el uso en el mundo real que incluso los Gobiernos y las organizaciones intergubernamentales no tienen”.

La compañía dijo que los modelos recientes, incluido Claude Fable 5, tienen “medidas de protección más estrictas que restringen el acceso a una amplia gama de consultas de investigación biológica de uso dual”.

Anthropic dijo que hay evidencia de que las medidas de protección implementadas están funcionando, pero que serán necesarios sistemas de seguridad aún más sólidos a medida que los modelos de inteligencia artificial y las posibles amenazas se vuelvan más sofisticados. La compañía también señaló en el informe que interrumpió gestiones para utilizar sus modelos en operaciones de vigilancia, estafas y el desarrollo de armas convencionales, como drones y misiles.

La divulgación de esta noticia se produce después de una creciente ola de advertencias de empleados de compañías de inteligencia artificial que recientemente dejaron sus empresas por inquietudes relacionadas con la seguridad. Algunos expresaron temores de que la tecnología avance demasiado rápido y que algún día supere la capacidad de los seres humanos para controlarla, y pidieron a los Gobiernos que consideren cómo desacelerar el desarrollo si la situación se sale de control.

“Si extrapolas hacia el futuro, el nivel de capacidades de estas IA… podrían causar un caos extremo”, dijo Jacob Coxon, un exempleado de Anthropic, a Anderson Cooper, de CNN, este miércoles.

En un mensaje de renuncia publicado en X esta semana, el investigador de inteligencia artificial, de 27 años, dijo que “las personas que desarrollan inteligencia artificial creen sinceramente que podría acabar con todos nosotros antes de que termine la década”.

Al hablar el miércoles, Coxon dijo que podría piratear infraestructura crítica o construir “armas biológicas capaces de provocar una extinción”.

“Hay muchas maneras en que la inteligencia artificial podría actuar en el mundo”, dijo.

En julio, casi 1.400 empleados de compañías de inteligencia artificial firmaron una carta abierta en la que instaron al Gobierno de Estados Unidos a regular la tecnología para limitar a las grandes compañías tecnológicas y desacelerar el ritmo de desarrollo de la inteligencia artificial con el fin de garantizar su seguridad. Y esta semana, Jakub Pachocki, científico jefe de OpenAI, advirtió que las capacidades de la inteligencia artificial avanzan más rápido que la capacidad de los investigadores para vigilarlas y controlarlas de manera confiable.

Por ahora, las compañías de inteligencia artificial se supervisan en gran medida por sí mismas. El Gobierno de Trump ha trabajado para debilitar las regulaciones estatales sobre inteligencia artificial, y el Congreso hasta ahora no ha estado dispuesto a limitar la tecnología.

“Creemos que el mundo se beneficiaría de que la industria adoptara una manera legal y verificable de trabajar conjuntamente para establecer el ritmo al que lanzamos modelos potentes de inteligencia artificial”, dijo Anthropic en un comunicado difundido este miércoles. (Fuente: CNN Español) (Foto: captura video CNN)