La empresa de inteligencia artificial Anthropic sugiri\u00f3 el jueves una pausa global en la construcci\u00f3n de los sistemas de IA m\u00e1s potentes, ya que los modelos m\u00e1s recientes est\u00e1n empezando a mostrar signos de que podr\u00edan escapar al control humano. La empresa con sede en San Francisco, fabricante de la familia de modelos de IA Claude, afirm\u00f3 en un informe que una desaceleraci\u00f3n mundial en el desarrollo de la IA de vanguardia “probablemente ser\u00eda algo positivo”, pero advirti\u00f3 que si tan solo una empresa se detuviera, sus rivales simplemente tomar\u00edan la delantera.<\/p>\n\n\n\n
“Creemos que ser\u00eda beneficioso para el mundo tener la opci\u00f3n de ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para permitir que las estructuras sociales y la investigaci\u00f3n sobre su alineaci\u00f3n se mantengan al d\u00eda con el avance de la tecnolog\u00eda”, afirm\u00f3.<\/p>\n\n\n\n
Seg\u00fan Anthropic, lograr una pausa real en el trabajo implicar\u00eda que varias de las principales empresas de IA en varios pa\u00edses, sobre todo en Estados Unidos y China, acordaran detenerse al mismo tiempo, bajo reglas que todos pudieran verificar. Esa idea podr\u00eda resultar algo impopular entre personas como Elon Musk, ya que se espera que el muy esperado debut burs\u00e1til de su empresa SpaceX, propietaria de su proyecto de inteligencia artificial xAI, lo convierta en el primer trillonario del mundo.<\/p>\n\n\n\n
“Sin un\u00a0mecanismo de coordinaci\u00f3n global<\/a>, las empresas y los gobiernos tendr\u00e1n que tomar decisiones dif\u00edciles en materia de seguridad, sometidos a presiones competitivas y geopol\u00edticas”, afirm\u00f3 Anthropic.<\/p>\n\n\n\n La empresa se ha enfrentado a la oposici\u00f3n de otros actores del sector, e incluso de funcionarios de la Casa Blanca, que afirman que su enfoque en los peores escenarios posibles exagera los riesgos y equivale a una estrategia para frenar a la competencia bajo el pretexto de preocupaciones de seguridad. Aun as\u00ed, la Casa Blanca ha reconocido el poder del\u00a0modelo Mythos<\/a>\u00a0de la compa\u00f1\u00eda, que no se ha puesto a disposici\u00f3n del p\u00fablico en general debido a sus capacidades de ciberseguridad y que actualmente solo se implementa en un peque\u00f1o n\u00famero de organizaciones previamente verificadas.<\/p>\n\n\n\n La propuesta se enfrentar\u00eda a una ardua batalla en Washington y Silicon Valley, donde los funcionarios estadounidenses y los ejecutivos tecnol\u00f3gicos han argumentado repetidamente que cualquier ralentizaci\u00f3n en el desarrollo de la IA corre el riesgo de otorgar a China una ventaja estrat\u00e9gica decisiva en lo que muchos consideran la carrera tecnol\u00f3gica que definir\u00e1 el siglo. Sin embargo, el presidente estadounidense Donald Trump afirm\u00f3 que durante su reciente visita a Pek\u00edn habl\u00f3 sobre la posibilidad de cooperar con China en materia de seguridad de la IA. Trump tambi\u00e9n firm\u00f3 esta semana una\u00a0orden ejecutiva<\/a>\u00a0que otorga al gobierno 30 d\u00edas para realizar una revisi\u00f3n preliminar de los modelos de IA m\u00e1s potentes de Estados Unidos antes de su lanzamiento.<\/p>\n\n\n\n Anthropic compar\u00f3 el problema con los tratados de control de armas nucleares, pero afirm\u00f3 que ser\u00eda a\u00fan m\u00e1s dif\u00edcil de controlar, ya que el entrenamiento de la IA es mucho m\u00e1s f\u00e1cil de ocultar que un silo de misiles, y la tentaci\u00f3n de seguir adelante en silencio ser\u00eda enorme.<\/p>\n\n\n\n “Uno quiere tener la opci\u00f3n de poder levantar el pie del acelerador y pisar el freno”, dijo el cofundador de Anthropic, Jack Clark, al programa brit\u00e1nico BBC Newsnight el jueves.<\/p>\n\n\n\n “Ahora mismo, es como si la industria de la IA tuviera un acelerador, pero no un freno”.<\/p>\n\n\n\n La compa\u00f1\u00eda afirm\u00f3 que planea reunir en los pr\u00f3ximos meses a funcionarios gubernamentales, cient\u00edficos, grupos de defensa y empresas de IA de la competencia para determinar c\u00f3mo podr\u00eda funcionar un sistema de este tipo. Seg\u00fan Anthropic, el llamamiento a la coordinaci\u00f3n surge junto con datos internos que demuestran que la IA ya est\u00e1 acelerando dr\u00e1sticamente el desarrollo de la propia IA.<\/p>\n\n\n\n“Reducci\u00f3n del rol humano”<\/h2>\n\n\n\n