Investigador de Anthropic advierte sobre riesgos críticos en seguridad de inteligencia artificial

Mrinank Sharma, quien estuvo al frente del equipo de investigación de salvaguardias en la empresa Anthropic desde su fundación el año pasado, presentó formalmente su renuncia. A través de una carta pública, el especialista señaló que el desarrollo acelerado de la inteligencia artificial coloca al mundo en una situación de peligro, cuestionando la eficacia de los protocolos actuales de seguridad ante capacidades que podrían superar el control humano.

La salida de Sharma se produce en un momento en que la comunidad tecnológica global debate intensamente sobre la regulación de modelos avanzados de lenguaje. El investigador sostuvo que las medidas de mitigación implementadas hasta ahora son insuficientes frente a la velocidad con la que los sistemas de IA están evolucionando, advirtiendo que los riesgos existenciales requieren una atención prioritaria que, a su juicio, no está recibiendo el nivel de rigor necesario.

Este posicionamiento se suma a las preocupaciones expresadas por diversos sectores académicos y gubernamentales, incluyendo a expertos en México que vigilan la adopción de estas tecnologías en procesos críticos. En el ámbito nacional, la integración de IA en servicios públicos y financieros ha generado llamados a establecer marcos regulatorios más claros que garanticen la soberanía digital y la protección de datos personales ante posibles vulnerabilidades sistémicas.

Aunque Anthropic no ha emitido una respuesta detallada sobre las críticas específicas de Sharma, la industria de IA se enfrenta a una creciente presión para transparentar sus procesos de seguridad. A nivel internacional, se han planteado propuestas para crear organismos de supervisión que evalúen los riesgos de los modelos antes de su despliegue masivo, buscando evitar escenarios donde la tecnología escape a la supervisión técnica y ética.