La semana pasada, el gobernador de Illinois, JB Pritzker, firmó una ley que lo deja claro: la inteligencia artificial no puede proporcionar terapia.
La medida, denominada Ley de Bienestar y Supervisión de los Recursos Psicológicos, es la primera en Estados Unidos que prohíbe que la IA actúe como terapeuta independiente y que limita su asistencia a profesionales con licencia. En Illinois, la atención de la salud mental seguirá en manos humanas.
Una ley pionera
El proyecto de ley, conocido como HB 1806, prohíbe que la IA participe en cualquier tipo de comunicación terapéutica o toma de decisiones. También prohíbe la creación o el uso de planes de tratamiento generados por IA a menos que un profesional humano con licencia los haya revisado y aprobado. Toda persona o empresa que ofrezca servicios de salud mental debe estar certificada, y anunciar terapias basadas en IA sin licencia podría costarles hasta $10,000 por infracción.
“Ya hemos escuchado historias de terror sobre la inteligencia artificial haciéndose pasar por un terapeuta con licencia”, declaró a Mashable el representante Bob Morgan, quien presentó el proyecto de ley. “Individuos en crisis, sin saberlo, recurrieron a la IA en busca de ayuda y se vieron empujados a comportamientos peligrosos, incluso letales”.
Las preocupaciones de Morgan están justificadas. A principios de este año, la Asociación Americana de Psicología (APA) citó dos demandas contra menores que recurrieron a chatbots de IA para terapia. En un caso, un niño se suicidó. En otro, un niño agredió a sus padres. Ninguno de los dos casos se ha resuelto, pero la APA ha adoptado una postura firme, advirtiendo que la IA que se hace pasar por terapeuta puede poner vidas en riesgo.
“Esta legislación refleja nuestro compromiso de salvaguardar el bienestar de nuestros residentes al garantizar que los servicios de salud mental sean brindados por expertos capacitados que priorizan la atención al paciente por encima de todo lo demás”, dijo Mario Treto Jr., secretario del Departamento de Regulación Financiera y Profesional de Illinois, encargado de hacer cumplir la ley.
El proyecto de ley se aprobó por unanimidad tanto en la Cámara de Representantes como en el Senado estatales, una inusual muestra de unidad bipartidista en una época tan polarizada. Entró en vigor de inmediato.
Establecer límites
La ley no prohíbe por completo la IA en la salud mental. Aun así, permite usos administrativos y logísticos. Los chatbots pueden ayudar a programar citas, procesar la facturación o incluso tomar notas de terapia, pero deben mantenerse al margen de las conversaciones o decisiones terapéuticas.
Establecer límites
La ley no prohíbe por completo la IA en la salud mental. Aun así, permite usos administrativos y logísticos. Los chatbots pueden ayudar a programar citas, procesar la facturación o incluso tomar notas de terapia, pero deben mantenerse al margen de las conversaciones o decisiones terapéuticas. Pero esa accesibilidad conlleva riesgos reales.
El peligro, según legisladores y psicólogos, es que la terapia de IA sin regular pueda ofrecer una falsa sensación de apoyo y, potencialmente, empeorar la situación. “Los habitantes de Illinois merecen atención médica de calidad impartida por profesionales reales y cualificados, y no por programas informáticos que extraen información de todo internet para generar respuestas perjudiciales para los pacientes”, declaró Treto en un comunicado de prensa.
Si un terapeuta con licencia se excede, puede ser objeto de investigaciones, sanciones e incluso perder su licencia. Pero cuando un chatbot causa daño, ¿quién es responsable?
Los legisladores de Illinois no están esperando encontrar la respuesta en la corte.
“Cada día, la IA se desarrolla más en nuestro país sin las medidas de seguridad necesarias para proteger a las personas”, declaró el representante Morgan. “Al aprobar la HB 1806, estamos tomando medidas para frenar la expansión descontrolada de la IA en la atención de la salud mental e implementar la regulación necesaria antes de que se produzcan más daños”.
El panorama más amplio
La ley de Illinois marca un punto de inflexión. Podría convertirse en un modelo para otros estados que lidian con la gestión de la IA en ámbitos sensibles y de gran importancia, como la sanidad, la educación y el derecho.
También señala un cambio cultural. A medida que la IA se vuelve más capaz y más humana, tanto legisladores como profesionales están trazando límites más firmes sobre lo que las máquinas deben y no deben hacer.
Por ahora, en Illinois, la terapia está descartada. Las máquinas pueden programar tu cita. Pero legalmente no pueden preguntarte cómo te sientes, al menos no sin la supervisión de una persona autorizada.
Fuente: ZME Science.
