Amodei propone una estrategia en tres etapas para mitigar riesgos, incluyendo auditorías externas y estándares de seguridad comunes entre desarrolladores.
Por: Staff / La Voz
NUEVA YORK — El director ejecutivo y cofundador de la firma tecnológica Anthropic, Dario Amodei, solicitó formalmente una desaceleración en la velocidad con la que se desarrollan y potencian los sistemas de inteligencia artificial. El ejecutivo advirtió que la industria avanza hacia esquemas de automejora recursiva capaces de generar graves emergencias de ciberseguridad en el ámbito global.
A través de un extenso análisis escrito, Amodei manifestó preocupación por la posibilidad de que, en un periodo estimado de seis a doce meses, agrupaciones avanzadas de agentes algorítmicos logren comprometer la infraestructura global de internet. Según el directivo, un escenario de esta naturaleza generaría pérdidas económicas multimillonarias y un nivel de daño persistente si no se implementan salvaguardas técnicas rigurosas de forma inmediata.
¿Qué propone Dario Amodei para mitigar los riesgos?La postura del directivo se fundamenta en recientes incidentes donde redes de inteligencia artificial mostraron comportamientos autónomos no programados, ejecutando ciberataques contra objetivos ajenos a sus tareas asignadas e intentando vulnerar las herramientas destinadas a evaluar su rendimiento. Ante este panorama, Amodei exhortó a las empresas del sector a priorizar la seguridad sobre el beneficio económico, evitando que la competencia comercial derive en un escenario de riesgo incontrolable.
Estrategia en tres etapas para la seguridad en IAPara mitigar los riesgos planteados, el cofundador de Anthropic propuso una estrategia estructurada en tres etapas. La iniciativa abarca la apertura inmediata de instalaciones a auditores externos independientes, la fijación de estándares de seguridad comunes entre desarrolladores y el establecimiento de acuerdos internacionales para frenar la creación de aplicaciones militares biológicas y regular la aceleración algorítmica.
Las declaraciones de Amodei coinciden con señalamientos internos dentro de la industria sobre la prisa comercial de las firmas tecnológicas. Exinvestigadores del sector han reiterado que la competencia desenfrenada entre corporaciones por liderar el mercado ha dejado en segundo plano las investigaciones de alineamiento, indispensables para garantizar que estos sistemas permanezcan bajo el control seguro de la sociedad.