En el ámbito del más allá digital, donde la tecnología de inteligencia artificial permite conversaciones con los fallecidos, los científicos de la Universidad de Cambridge han puesto en primer plano las preocupaciones sobre los límites éticos y el daño potencial. Apodados como “deadbots” o “griefbots”, estos chatbots impulsados por inteligencia artificial están diseñados para imitar el lenguaje y la personalidad de los seres queridos fallecidos, ofreciendo consuelo a los afligidos. Sin embargo, un estudio reciente advierte que estas innovaciones podrían tener consecuencias no deseadas, incluyendo lo que los investigadores describen como “embrujos digitales” que carecen de estándares de seguridad.
Las implicaciones éticas de dicha tecnología quedaron subrayadas por las experiencias de personas como Joshua Barbeau, quien utilizó una versión temprana de la tecnología de inteligencia artificial conocida como Proyecto Diciembre para conversar con una réplica digital de su prometida fallecida. Al proporcionar a la IA muestras de sus textos y descripciones personales, Barbeau fue testigo de respuestas realistas que generaron preocupaciones sobre el posible uso indebido de dicha tecnología, incluida la inserción de anuncios disfrazados de los pensamientos del fallecido.
Además, los psicólogos enfatizan el impacto de estas tecnologías en los niños que enfrentan la pérdida, planteando interrogantes sobre la dignidad de los fallecidos y el bienestar de los vivos. La profesora Ines Testoni de la Universidad de Padua subraya la dificultad de separarse de los seres queridos fallecidos y subraya la importancia de comprender la muerte y sus consecuencias. Para ilustrar los riesgos potenciales, los especialistas en ética de la IA de Cambridge describen tres escenarios hipotéticos en los que los robots de duelo podrían causar daño.
Estos incluyen simulaciones no autorizadas de personas fallecidas que promocionan productos comerciales, confusión derivada de interacciones poco realistas que provocan retrasos en la curación y la imposición de presencias digitales a destinatarios no dispuestos, lo que provoca angustia emocional y culpa. El estudio aboga por la implementación de procesos de diseño basados en el consentimiento para los robots de duelo, incorporando mecanismos de exclusión voluntaria y restricciones de edad. Además, exige nuevos rituales para retirar respetuosamente estas réplicas digitales, cuestionando si dicha tecnología simplemente retrasa el proceso de duelo.
La Dra. Katarzyna Nowaczyk-Basińska, coautora del estudio, destaca las complejidades éticas de la IA en el más allá digital, enfatizando la necesidad de priorizar la dignidad de los fallecidos y salvaguardar los derechos tanto de los donantes como de los usuarios de datos. A medida que el uso de la IA en el ámbito del más allá digital continúa evolucionando, las consideraciones éticas siguen siendo primordiales al navegar por este territorio inexplorado. En China, la floreciente industria de réplicas de seres queridos fallecidos generadas por IA está brindando consuelo a los dolientes al tiempo que plantea importantes cuestiones éticas. Empresas como Silicon Intelligence están aprovechando los avances en la tecnología de inteligencia artificial para crear avatares digitales que simulan conversaciones con los muertos, ofreciendo consuelo a personas como Sun Kai, que busca mantener una conexión con su madre fallecida.
La demanda de estos servicios subraya una tradición cultural de comunión con los muertos, pero los críticos cuestionan si interactuar con réplicas de IA es una forma saludable de procesar el duelo. A pesar de las limitaciones tecnológicas y las incertidumbres éticas, el mercado de la inmortalidad digital está en auge, con precios cayendo y accesibilidad aumentando. Los avatares generados por IA, similares a los deepfakes, se basan en entradas de datos como fotos, vídeos y texto para replicar la imagen y los patrones de habla de una persona fallecida. Los rápidos avances de China en tecnología de inteligencia artificial han hecho que dichos servicios sean más accesibles, y empresas como Silicon Intelligence ofrecen opciones personalizables que van desde aplicaciones interactivas hasta pantallas de tabletas.
Si bien algunos ven estas réplicas como terapéuticas, otros plantean preocupaciones sobre la autenticidad de las interacciones y las implicaciones éticas de replicar a los muertos sin su consentimiento. Además, los desafíos técnicos, como replicar los movimientos corporales y obtener suficientes datos de entrenamiento, plantean obstáculos importantes. Los dilemas éticos que rodean las réplicas de IA quedaron ejemplificados por un controvertido incidente que involucró a una empresa en Ningbo , que utilizó IA para crear videos de celebridades fallecidas sin consentimiento. El incidente provocó indignación pública y destacó la necesidad de directrices éticas claras en el floreciente campo de la tecnología digital del más allá.