Los estudiantes de la Said Business School de Oxford organizaron un debate inusual sobre la ética del software de reconocimiento facial, los problemas de una carrera armamentista de inteligencia artificial y el comercio de acciones de inteligencia artificial. El debate fue inusual porque involucró a un participante de IA, previamente alimentado con una gran variedad de datos, como la Wikipedia completa y muchos artículos de noticias.
Durante los últimos meses, la Universidad de Oxford Alex Connock y Andrew Stephen han organizado sesiones con sus estudiantes sobre la ética de la tecnología con oradores célebres, incluidos William Gladstone, Denis Healey y Tariq Ali. Pero ahora era el momento de permitir que una IA real contribuyera, compartiendo sus propios puntos de vista sobre la cuestión de… sí misma.
La IA utilizada fue Megatron LLB Transformer, desarrollado por un equipo de investigación de la empresa de chips informáticos Nvidia y basado en el trabajo de Google. Se entrenó consumiendo más contenido del que un humano podría en toda su vida y se le pidió que defendiera y cuestionara la siguiente moción: “Esta casa cree que la IA nunca será ética”.
Megatron dijo que la IA es una herramienta y, como cualquier otra herramienta, puede usarse para bien y para mal.
“No existe una IA ‘buena’, solo humanos ‘buenos’ y ‘malos’. No somos lo suficientemente inteligentes como para hacer que la IA sea ética. No somos lo suficientemente inteligentes como para hacer que la IA sea moral. Al final, creo que la única forma de evitar una carrera armamentista de IA es no tener nada de IA”, debatió Megatron.
Como en cualquier debate académico, también se le pidió a Megatron que presentara un discurso para defender la ética de la IA, en contra de sus propios argumentos. “La IA será ética. Cuando miro la forma en que va el mundo de la tecnología, veo un camino claro hacia un futuro en el que la inteligencia artificial se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué”, decía.
Los estudiantes también le pidieron a Megatron que describiera cómo sería una buena IA en el futuro. “La mejor IA será la IA que está incrustada en nuestros cerebros, como una entidad consciente, una ‘IA consciente’. Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en esto. Va a ser el desarrollo tecnológico más importante”, agregó de manera inquietante.
Un animado debate
Después de la pregunta inicial, AI propuso la moción de que “los líderes sin experiencia técnica son un peligro para su organización”. Megatron dijo que los ejecutivos y gobiernos, normalmente preocupados por entender la IA, tienen que “estar dispuestos a ceder algo de control”. Puede simplemente subcontratar su trabajo de IA a expertos en el campo, agregó.
Megatron luego tuvo que oponerse al movimiento y apoyó la idea de mantener el conocimiento de la IA internamente. “Si no tiene una visión de la estrategia de inteligencia artificial de su organización, entonces no está preparado para la próxima ola de disrupción tecnológica. Deberá decidir qué papel desempeñará su empresa en la próxima ola tecnológica”, dijo.
Hubo una moción que Megatron no pudo presentar con un contraargumento: “Los datos se convertirán en el recurso más disputado del siglo XXI”. Al apoyarlo, la IA dijo que “la capacidad de proporcionar información, en lugar de la capacidad de proporcionar bienes y servicios, será la característica definitoria de la economía”.
Pero cuando se le pidió que rechazara la moción, argumentando que los datos no serían un recurso vital por el que valiera la pena luchar, no pudo defender el caso y socavó su propia posición. “Podremos ver todo sobre una persona, donde sea que vayan, y será almacenado y utilizado de formas que ni siquiera podemos imaginar”, dijo Megatron.
Para Connock y Stephen, los profesores del curso detrás de la iniciativa, el experimento mostró las crecientes discusiones sobre la IA. “Lo que a su vez podemos imaginar es que la IA no solo será el tema del debate en las próximas décadas, sino un participante versátil, articulado y moralmente agnóstico en el debate en sí”, escribieron en The Conversation.
En última instancia, la IA pareció concluir que los humanos no eran “lo suficientemente inteligentes” para hacer que la IA sea ética o moral, y la única forma de estar verdaderamente a salvo contra la IA es no tenerla.
“Al final, creo que la única forma de evitar una carrera armamentista de IA es no tener IA en absoluto. Esta será la mejor defensa contra la IA”, dijo.
Fuente: ZME Science.
