Parece no haber fin a las predicciones de nubes de tormenta cuando las computadoras eventualmente deciden tomar el asunto en sus propias manos (o deber\u00edamos decir, sus propios procesadores).<\/p>\n\n\n\n
\u201cEl desarrollo de la inteligencia artificial podr\u00eda significar el fin de la raza humana\u201d, advirti\u00f3 Stephen Hawking.<\/p>\n\n\n\n
“[La IA] me asusta much\u00edsimo. Es capaz de mucho m\u00e1s de lo que casi nadie sabe, y la tasa de mejora es exponencial”, dijo el cofundador de OpenAI, Elon Musk.<\/p>\n\n\n\n
Las tecnolog\u00edas de IA presentan “riesgos profundos para la sociedad y la humanidad”, seg\u00fan una carta firmada a principios de este a\u00f1o por m\u00e1s de 1,000 l\u00edderes tecnol\u00f3gicos que instaban a una moratoria en la investigaci\u00f3n de IA hasta que se entienda m\u00e1s sobre los riesgos potenciales.<\/p>\n\n\n\n
“Tenemos que tener mucho cuidado”, dijo Yoshua Bengio, profesor e investigador de IA en la Universidad de Montreal.<\/p>\n\n\n\n
Sin ignorar la promesa del tremendo bien que la IA traer\u00e1 a una amplia gama de sectores en la industria, la econom\u00eda, la educaci\u00f3n, la ciencia, la agricultura, la medicina y la investigaci\u00f3n, los informes de los medios est\u00e1n haciendo sonar cada vez m\u00e1s una alarma sobre las consecuencias no deseadas de esta floreciente tecnolog\u00eda disruptiva. Un \u00e1rea de preocupaci\u00f3n es el comportamiento emergente, definido como una serie de interacciones no programadas e imprevistas dentro de un sistema derivadas de comportamientos programados m\u00e1s simples por partes individuales. Los investigadores dicen que la evidencia de tal comportamiento se ve en modelos que aprenden idiomas por s\u00ed mismos, cuando los sistemas entrenados para jugar ajedrez y Go generan estrategias originales para avanzar, o cuando los robots muestran variabilidad en los patrones de movimiento que no fueron programados originalmente.<\/p>\n\n\n\n
“A pesar de tratar de esperar sorpresas, estoy sorprendido por las cosas que estos modelos pueden hacer”, dijo Ethan Dyer, cient\u00edfico inform\u00e1tico de Google, en respuesta a un experimento de IA en el que una computadora dedujo inesperadamente por s\u00ed sola el t\u00edtulo de una pel\u00edcula basada en una cadena de emojis<\/p>\n\n\n\n
Pero el propio Dyer puede sorprenderse al saber que un equipo de investigaci\u00f3n de la Universidad de Stanford est\u00e1 arrojando agua fr\u00eda sobre los informes de comportamiento emergente. Ryan Schaeffer, Brando Miranda y Sanmi Koyejo dijeron en un art\u00edculo publicado la semana pasada que la evidencia de comportamientos emergentes se basa en estad\u00edsticas que probablemente fueron malinterpretadas.<\/p>\n\n\n\n
“Nuestro mensaje es que las habilidades emergentes afirmadas anteriormente\u2026 probablemente podr\u00edan ser un espejismo inducido por los an\u00e1lisis de los investigadores”, dijeron.<\/p>\n\n\n\n
En su art\u00edculo publicado en el servidor de preimpresi\u00f3n arXiv, los investigadores explicaron que las habilidades de los grandes modelos de lenguaje se miden determinando el porcentaje de sus predicciones correctas. Los an\u00e1lisis estad\u00edsticos se pueden representar de muchas maneras. Los investigadores sostienen que cuando los resultados se informan en m\u00e9tricas no lineales o discontinuas, parecen mostrar cambios bruscos e impredecibles que se interpretan err\u00f3neamente como indicadores de un comportamiento emergente.<\/p>\n\n\n\n
Sin embargo, un medio alternativo de medir los datos id\u00e9nticos mediante m\u00e9tricas lineales muestra cambios “suaves y continuos” que, a diferencia de la medida anterior, revelan un comportamiento predecible, no emergente. El equipo de Stanford agreg\u00f3 que la falta de uso de muestras lo suficientemente grandes tambi\u00e9n contribuye a conclusiones err\u00f3neas.<\/p>\n\n\n\n
“Las afirmaciones existentes de habilidades emergentes son creaciones de los an\u00e1lisis del investigador, no cambios fundamentales en el comportamiento del modelo en tareas espec\u00edficas”, dijo el equipo.<\/p>\n\n\n\n
Agregaron que si bien la metodolog\u00eda en investigaciones anteriores probablemente arroj\u00f3 conclusiones enga\u00f1osas, “nada en este documento debe interpretarse como una afirmaci\u00f3n de que los grandes modelos de lenguaje no pueden mostrar habilidades emergentes”, lo que sugiere que la metodolog\u00eda adecuada bien puede revelar tales capacidades.<\/p>\n\n\n\n
“La conclusi\u00f3n principal”, dijeron los investigadores, “es para una tarea fija y una familia de modelos fijos, el investigador puede elegir una m\u00e9trica para crear una habilidad emergente o elegir una m\u00e9trica para eliminar una habilidad emergente”.<\/p>\n\n\n\n
O como dijo un comentarista notable: “El resultado del algoritmo es tan bueno como los par\u00e1metros que establecieron sus creadores, lo que significa que hay espacio para posibles sesgos dentro de la propia IA”.<\/p>\n\n\n\n
\u00bfY qui\u00e9n era ese notable comentarista? ChatGPT de Microsoft Bing.<\/p>\n\n\n\n