English
Recientemente, se reveló la existencia de Hume, una IA conversacional especializada en comprender las expresiones emocionales derivadas del uso y tono de las palabras.
La capacidad de la inteligencia artificial de generar conversaciones con humanos ha sido algo revolucionario, sin embargo, algunos buscan ir más allá buscando desarrollar un modelo que pueda detectar el estado de ánimo de una persona, como es el caso de Hume.
Se trata de una IA conversacional especializada en comprender las expresiones emocionales derivadas del uso y tono de las palabras, así en tiempo real es capaz de detectar si su interlocutor está triste, preocupado, emocionado o angustiado.
Un avance tecnológico significativo que puede ofrecer numerosas ventajas, como mejorar la interacción entre humanos y máquinas o proporcionar asistencia personalizada, sin embargo, también conlleva potenciales riesgos que merecen ser analizados.
Te podría interesar: Los niños de la inteligencia artificial: cómo la tecnología define a la generación Alfa
Por qué el avance podría llevar a una antropomorfización de la IA
La capacidad de comprender e identificar emociones y además sostener conversaciones de las mismas puede llevar a una antropomorfización de la IA, que incluye atribuirle pensamientos y una personalidad a una máquina que no posee estas características.
Este fenómeno se manifiesta en cómo las personas hablan de la IA, en las expectativas que tienen sobre su comportamiento o en la forma en la que diseñan y presentan estos sistemas, otorgándoles nombres, géneros, o incluso creando representaciones visuales que les confieren aspecto humano.
De hecho, un riesgo significativo es el impacto psicológico porque la interacción prolongada con una inteligencia artificial que conozca nuestras emociones podría afectar la capacidad para interactuar y empatizar con otros seres humanos, socavando las conexiones personales y fomentando un sentido de aislamiento.
Finalmente, existe el peligro de la manipulación, debido a que con un entendimiento profundo de nuestros estados de ánimo y preferencias, la IA podría ser usada para influir en decisiones, desde las compras hasta las opiniones políticas, presentando un riesgo potencial para la autonomía individual.
