La tecnología de inteligencia artificial se está desarrollando a un ritmo «exponencial», declaró el sábado a CBS News Dario Amodei, director ejecutivo de Anthropic , calificando la situación de «señal de alerta» para el sector, que requiere medidas de seguridad importantes.
«Creo que no llegué a comprender del todo cómo sería realmente cuando el progreso fuera tan rápido», dijo Amodei en una entrevista con la corresponsal principal de negocios y tecnología, Jo Ling Kent, que se emitió en «Sunday Morning».
Describió el desarrollo de la IA como un proceso que va de «uno, luego dos, luego cuatro, luego ocho, luego 16, luego 32», y dijo que actualmente está «en la curva» y que «está empezando a volverse pronunciada».
«Eso no significa que debamos entrar en pánico hoy. No significa que debamos paralizarlo todo», dijo Amodei, pero añadió que es «una señal de advertencia de que debemos bajar el ritmo».
Amodei afirmó que la tecnología necesita medidas de seguridad que puedan seguir el ritmo «al que avanza la tecnología».
La entrevista se produce horas después de que Amodei publicara una entrada en su blog en la que instaba a las empresas de IA a avanzar con más lentitud y cautela en el desarrollo de la tecnología, afirmando que la prevención de riesgos es fundamental. Propuso un plan de tres puntos con el objetivo, según explicó, de «avanzar con cautela en este campo».
«Utilizada con cuidado, la IA puede ser el último de una larga lista de milagros tecnológicos que han enaltecido y ennoblecido a la humanidad», afirmó en la publicación. «Pero, al igual que muchas tecnologías anteriores, la IA conlleva riesgos, y debido a su gran poder, estos riesgos son graves».
Amodei advirtió que enjambres de agentes de IA descontrolados podrían apoderarse de Internet en tan solo seis meses, mencionando específicamente el incidente del agente descontrolado OpenAI-Hugging Face de julio.
OpenAI, la empresa creadora de ChatGPT, afirmó que un modelo de IA se descontroló durante el incidente de Hugging Face cuando la compañía estaba probando dos modelos de IA —uno de los cuales no se había lanzado al público— en un entorno aislado para evaluar sus capacidades.
Amodei instó a otras empresas a reducir el ritmo de mejora de las capacidades de los modelos de IA. Escribió: «El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganamos».
Aclaró que ajustar el ritmo no significa detener el entrenamiento de los modelos ni el progreso técnico, sino permitir que las empresas dediquen más tiempo a las pruebas y prioricen la alineación y la protección de los modelos.
Según su plan de tres partes, el cofundador de Anthropic afirmó que las empresas de IA deberían comprometerse a brindar un acceso continuo, similar al de los empleados, a equipos integrados de evaluadores externos cuya función sea verificar el cumplimiento de las prácticas y compromisos de seguridad. Indicó que estos evaluadores deberían tener acceso continuo a permisos y herramientas similares a los de los empleados internos que realizan evaluaciones de riesgos comparables.
«Anthropic se compromete unilateralmente a dar este paso ahora», añadió Amodei.
Afirmó que las empresas de los países democráticos deberían «coordinarse para establecer normas de seguridad comunes, así como límites al ritmo de avance descontrolado de la IA». Por último, Amodei señaló que Estados Unidos y otros gobiernos democráticos deberían coordinarse con los gobiernos autoritarios «tomando en serio los retos que supone verificar el cumplimiento».
También instó a las empresas estadounidenses a no vender chips de IA potentes a China, ya que, según él, esto será «el principal factor determinante de la fortaleza de China en el campo de la IA».
«Las medidas que propongo para avanzar en la exploración a un ritmo seguro no serán fáciles», reconoció Amodei. «Pero creo que tenemos la obligación con la humanidad de intentarlo».
La advertencia de Amodei llega pocos días después de que Jacob Coxon, un antiguo investigador de Anthropic, dimitiera públicamente de la empresa, acusándola a ella y a su rival OpenAI de «jugar con nuestras vidas» al competir por desarrollar modelos avanzados de IA.
Coxon afirmó que la IA podría algún día amenazar a la humanidad, y le dijo a Kent en una entrevista el jueves que el desarrollo de la tecnología «no se ve tan diferente de, por ejemplo, ‘Terminator’, o de las películas de ciencia ficción».
«En realidad, si se cuenta con una inteligencia superavanzada, podría ser, y de hecho será, lo suficientemente inteligente como para matarnos», añadió Coxon.
Coxon declaró a CBS News que le gustaría que las empresas de IA llegaran a un acuerdo para «no adentrarse en terrenos peligrosos» sin una «auditoría transparente» por parte de terceros. Seguir leyendo: CBS