La empresa de inteligencia artificial Anthropic sugirió el jueves una pausa global en la construcción de los sistemas de IA más potentes, ya que los modelos más recientes están empezando a mostrar signos de que podrían escapar al control humano. La empresa con sede en San Francisco, fabricante de la familia de modelos de IA Claude, afirmó en un informe que una desaceleración mundial en el desarrollo de la IA de vanguardia “probablemente sería algo positivo”, pero advirtió que si tan solo una empresa se detuviera, sus rivales simplemente tomarían la delantera.
“Creemos que sería beneficioso para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigación sobre su alineación se mantengan al día con el avance de la tecnología”, afirmó.
Según Anthropic, lograr una pausa real en el trabajo implicaría que varias de las principales empresas de IA en varios países, sobre todo en Estados Unidos y China, acordaran detenerse al mismo tiempo, bajo reglas que todos pudieran verificar. Esa idea podría resultar algo impopular entre personas como Elon Musk, ya que se espera que el muy esperado debut bursátil de su empresa SpaceX, propietaria de su proyecto de inteligencia artificial xAI, lo convierta en el primer trillonario del mundo.
“Sin un mecanismo de coordinación global, las empresas y los gobiernos tendrán que tomar decisiones difíciles en materia de seguridad, sometidos a presiones competitivas y geopolíticas”, afirmó Anthropic.
La empresa se ha enfrentado a la oposición de otros actores del sector, e incluso de funcionarios de la Casa Blanca, que afirman que su enfoque en los peores escenarios posibles exagera los riesgos y equivale a una estrategia para frenar a la competencia bajo el pretexto de preocupaciones de seguridad. Aun así, la Casa Blanca ha reconocido el poder del modelo Mythos de la compañía, que no se ha puesto a disposición del público en general debido a sus capacidades de ciberseguridad y que actualmente solo se implementa en un pequeño número de organizaciones previamente verificadas.
La propuesta se enfrentaría a una ardua batalla en Washington y Silicon Valley, donde los funcionarios estadounidenses y los ejecutivos tecnológicos han argumentado repetidamente que cualquier ralentización en el desarrollo de la IA corre el riesgo de otorgar a China una ventaja estratégica decisiva en lo que muchos consideran la carrera tecnológica que definirá el siglo. Sin embargo, el presidente estadounidense Donald Trump afirmó que durante su reciente visita a Pekín habló sobre la posibilidad de cooperar con China en materia de seguridad de la IA. Trump también firmó esta semana una orden ejecutiva que otorga al gobierno 30 días para realizar una revisión preliminar de los modelos de IA más potentes de Estados Unidos antes de su lanzamiento.
“Reducción del rol humano”
Anthropic comparó el problema con los tratados de control de armas nucleares, pero afirmó que sería aún más difícil de controlar, ya que el entrenamiento de la IA es mucho más fácil de ocultar que un silo de misiles, y la tentación de seguir adelante en silencio sería enorme.
“Uno quiere tener la opción de poder levantar el pie del acelerador y pisar el freno”, dijo el cofundador de Anthropic, Jack Clark, al programa británico BBC Newsnight el jueves.
“Ahora mismo, es como si la industria de la IA tuviera un acelerador, pero no un freno”.
La compañía afirmó que planea reunir en los próximos meses a funcionarios gubernamentales, científicos, grupos de defensa y empresas de IA de la competencia para determinar cómo podría funcionar un sistema de este tipo. Según Anthropic, el llamamiento a la coordinación surge junto con datos internos que demuestran que la IA ya está acelerando drásticamente el desarrollo de la propia IA.
Esa aceleración crea un ciclo de retroalimentación que, según advirtió Anthropic, podría conducir a lo que los investigadores denominan “automejora recursiva”. Esa es la idea de un sistema de IA que sea capaz de aprender por sí mismo a ser más inteligente, sin mucha ayuda humana.
“Todavía no hemos llegado a ese punto, y la auto-mejora recursiva no es inevitable”, afirma el informe de Anthropic, añadiendo que podría llegar antes de lo que la mayoría de los gobiernos e instituciones están preparados.
“Las pruebas sugieren que el papel del ser humano se está reduciendo en cada etapa del proceso de desarrollo de la IA”, afirmó la empresa.
Fuente: Tech Xplore.
