La carrera entre las principales empresas de inteligencia artificial (IA) por desarrollar sistemas cada vez más avanzados vuelve a generar preocupación entre investigadores y expertos en seguridad tecnológica, luego de que un investigador que trabajó en Anthropic y OpenAI anunciara su salida de la industria y cuestionara el ritmo al que se está desarrollando esta tecnología.
Jacob Coxon, quien afirmó haber dedicado tres años a investigaciones relacionadas con Anthropic y OpenAI, sostuvo en la plataforma X que ambas compañías están más concentradas en superar a sus competidores y alcanzar modelos cada vez más avanzados que en garantizar que estos sistemas sean desarrollados de manera segura.
Coxon llegó incluso a advertir sobre el riesgo de que la inteligencia artificial avance hacia una denominada superinteligencia, es decir, sistemas que eventualmente podrían superar ampliamente las capacidades humanas en múltiples áreas y, potencialmente, desarrollar nuevas capacidades de manera autónoma.
Según el investigador, algunas personas involucradas directamente en el desarrollo de estas tecnologías consideran que existe la posibilidad de que la IA represente una amenaza de gran magnitud para la humanidad durante la próxima década.
Las declaraciones han reavivado una discusión que lleva años dividiendo a científicos y especialistas: si el rápido desarrollo de sistemas de inteligencia artificial representa principalmente una oportunidad tecnológica o si podría generar riesgos que todavía no se comprenden completamente.
Preocupación por los agentes de IA
Uno de los principales focos de preocupación son los llamados agentes de inteligencia artificial, sistemas capaces de ejecutar tareas de manera más autónoma, utilizar herramientas digitales y tomar decisiones para alcanzar determinados objetivos.
Expertos han advertido que un fallo en este tipo de sistemas podría tener consecuencias que trasciendan el ámbito tecnológico, particularmente si los agentes llegan a operar sobre infraestructuras críticas, sistemas financieros, servicios de salud o redes informáticas.
En los últimos meses, empresas dedicadas al desarrollo de IA también han informado sobre pruebas en las que modelos avanzados demostraron capacidades para encontrar vulnerabilidades, evadir determinados controles o realizar acciones que no estaban contempladas inicialmente por sus desarrolladores.
Estos resultados han provocado llamados para reforzar las evaluaciones de seguridad antes de permitir que los sistemas tengan acceso a herramientas y recursos del mundo real.
Samuel Marks, miembro del personal técnico de Anthropic, coincidió públicamente con algunas de las preocupaciones expresadas por Coxon y señaló que no siempre es posible garantizar que los modelos actúen exactamente de la manera prevista por sus desarrolladores.
Marks también sostuvo que dentro de la industria existen investigadores que consideran que la inteligencia artificial podría provocar consecuencias extremadamente graves, incluso escenarios de extinción humana.
Evan Hubinger, investigador de Anthropic, ha expresado igualmente preocupación sobre los riesgos asociados con sistemas futuros mucho más capaces que los actuales.
¿Debe detenerse el desarrollo de la IA?
Las advertencias han llevado a algunos políticos y expertos a plantear la posibilidad de establecer límites más estrictos o incluso pausar determinados desarrollos relacionados con sistemas de inteligencia artificial altamente avanzados.
El senador estadounidense Bernie Sanders ha defendido la necesidad de establecer salvaguardas y ha señalado que las propias personas que desarrollan estas tecnologías reconocen que podrían existir riesgos para la humanidad.
Otros legisladores han propuesto aumentar la supervisión de los llamados modelos de frontera, aquellos sistemas que representan la tecnología más avanzada disponible.
Sin embargo, una pausa generalizada en el desarrollo de la inteligencia artificial parece difícil de alcanzar debido a la intensa competencia entre empresas y países. Estados Unidos y China, entre otras potencias, mantienen una carrera tecnológica para desarrollar sistemas cada vez más sofisticados.
Además, las compañías argumentan que los avances en IA pueden producir beneficios importantes en campos como la medicina, la investigación científica, la educación, la programación y la productividad.
El debate también llega a Puerto Rico
La discusión sobre los riesgos y oportunidades de la inteligencia artificial también ha llegado a Puerto Rico, donde se han presentado iniciativas legislativas relacionadas con el desarrollo y la utilización de esta tecnología.
Entre ellas estuvo el Proyecto del Senado 769, conocido como la “Ley del Instituto de Desarrollo e Innovación en Inteligencia Artificial de Puerto Rico”, que fue vetado por la gobernadora Jenniffer González.
Uno de los obstáculos señalados en torno a este tipo de iniciativas ha sido la disponibilidad de recursos económicos para establecer nuevas estructuras y programas gubernamentales.
El senador Juan Oscar Morales también ha advertido que una falla relacionada con inteligencia artificial que afecte sistemas utilizados en Puerto Rico no necesariamente sería únicamente un problema tecnológico. Una interrupción o ataque contra sistemas críticos podría tener consecuencias económicas que terminarían afectando a empresas, instituciones y ciudadanos.
Otras propuestas legislativas han abordado el uso de la inteligencia artificial en áreas como el sistema judicial, la educación, la ciberseguridad y la difusión no consentida de contenido íntimo, conocida como “pornovenganza”.
Un desafío que va más allá del empleo
El debate sobre la IA no se limita al temor de que algunas profesiones sean sustituidas por sistemas automatizados, ni a su impacto sobre el arte, los medios de comunicación o la proliferación de contenido generado artificialmente en las redes sociales.
La discusión también incluye cuestiones relacionadas con la privacidad, la seguridad informática, la desinformación, la concentración de poder tecnológico y el uso de sistemas autónomos en sectores esenciales.
A nivel internacional, organismos y expertos han pedido que el desarrollo de la tecnología esté acompañado por mecanismos de seguridad, supervisión y sistemas de alerta que permitan identificar riesgos antes de que se produzcan daños.
La Organización de las Naciones Unidas también ha llamado a establecer garantías sólidas para la seguridad de la inteligencia artificial y a que los gobiernos adopten medidas que permitan aprovechar sus beneficios mientras se reducen sus riesgos.
Por ahora, no existe consenso científico que permita afirmar que la inteligencia artificial necesariamente provocará un colapso de la humanidad, pero tampoco existe certeza sobre cuáles serán las capacidades de los sistemas futuros.
La pregunta que comienza a cobrar mayor importancia, por tanto, no es solamente hasta dónde puede llegar la inteligencia artificial, sino si las empresas, los gobiernos y la sociedad estarán preparados para controlar sus riesgos a medida que la tecnología continúe avanzando.
