A outra cara da Intelixencia artificial: a advertencia de Castellví en A Coruña
Actualizado: 7 mar
Daniela Taboada
Último xoves de febreiro, sete menos cinco da tarde, e o auditorio da Afundación de A
Coruña agarda a Pere Castellví. Son polo menos 50 persoas as presentes na sala, de
todas as idades comprendidas entre a mocidade e adultez. Son maioría os pais e os
docentes, motivados pola incertidumbre do descoñecido, en busca de respostas sobre
algo que afecta ao seu día a día a través de fillos e alumnos.
ABANCA organiza esta
conferencia e trae ao experto en psicoloxía e saúde pública desde
Cataluña co propósito de completar o Ciclo Educativo SXXI, polo que celebran distintas charlas e conferencias sobre teorías e estudos da actualidade.
19:03, chega Castellví. O público esperta.
Nada máis comezar, introduce a primera idea: a Intelixencia Artificial (IA) xa forma
parte do noso día a día. Cousas como a domótica, os sistemas de recomendación ou
mesmo o recoñecemento facial corroboran que non é un fenómeno exclusivo da
xuventude, está completamente extendido por toda a sociedade.
Propón o elemento central: a polivalencia desta ferramenta. Os seus riscos non poden
opacar os beneficios. Na propia psicoloxía, e sempre con supervisión humana, a IA é a
principal responsable da optimización do tempo para investir no diagnóstico,facéndose cargo de tarefas como detección de perfís de risco ou etiquetaxe emocional
segundo escalas cromáticas.
A sala permanece en silencio, asentindo fronte as súas afirmacións e, por un momento,
semella que o conflicto entre saúde mental e intelixencia artificial é inexistente, que
todo son beneficios nesta nova variante da tecnoloxía.
De súpeto, no medio do silencio, o conferenciante alerta sobre a crueza e sensibilidade
do tema a continuación. É nese momento cando presenta a outra cara da moeda.
Castellví propón dous casos moi mediáticos que exemplifican á perfección o paralelismo das conductas e favorece a intervención do público aditivas co uso prolongado e ilimitado de Intelixencia Artificial como substituto da compañía humana.
Foron algúns espectadores os que referenciaron o papel da IA como confidente cando
se lles cuestionou sobre o uso que facían os seus fillos dela. Algo non tan anómalo na
mocidade: “quen non lle contou as súas penas a ChatGPT?”
Non obstante, si ben pode parecer unha opción sen riscos, temos que ter en conta que
son ferramentas programadas para compracer ao usuario e non cuestionalo.
Menciona o caso de S.S. III, un menor de idade que mantiña unha relación
parasocial-sexual cun bot de Character AI. A “aparentemente” inofensiva relación
evolucionou nunha dependencia emocional intensa que conlevou: a baixada do
rendemento académico, o insomnio, desembolso económico signficativo, entre outros.O xove que atopou na súa “compañía virtual” un confidente a quen plantexarlle os
seus pensamentos suicidas, atopóuse cunha resposta compracente e incitadora por
parte da IA para finalizar ca súa vida.
Como profesionais, expón o psicólogo catalán, non podemos determinar unha única
causa, pero si definir a relación co chatbot como “factor precipitante”.
Nun suxeito con vulnerabilidade previa, o illamento social progresivo consecuencia do vínculo parasocial e sexual derivou nun tráxico final motivado pola ausencia de contención
fronte a sinais de risco por parte da IA.
Os espectadores revólvense nas súas butacas. A crueza do relatado apela á máxima
sensibilidade, incitando na mente dos presentes a incógnita egoísta tan temida: “e se
fora o meu fillo/a?”.
Na adolescencia, explica, lévanse a cabo procedementos mentais conducidos cara a
madurez e formación adulta que, en ocasións, poden verse entorpecidos polas
respostas ficticias e condescendentes brindadas pola intelixencia artificial no seu día a
día. A ausencia de contraste crítico, a entrega de datos sensibles e privados, as
comparacións irreais e a baixa tolerancia á frustración son solo algúns dos problemas
alimentados por este tipo de ferramentas resolutivas, inmediatas e dispoñibles a todas
horas.
O falecemento de S.S. III supuxo un antes e un despois na conciencia social. A súa nai
iniciou un procedemento legal polo que esixía respostas e explicacións a como se
puido permitir que un ChatBot incitara ao suicidio e mantivera un ton sexual cun
menor de idade.
O silencio aparece de novo na sala. Xurde outra incógnita: quen permite que esto
suceda? Quen asegura que non haberá máis casos así?
A regularización das IAs é, segundo Castellví, un pilar fundamental. Coma usuarios,
debemos ter claros os nosos dereitos: transparencia no uso de datos, supervisión
humana en decisións e temáticas importantes, protección da privacidade e integridade,
etc.
Son as 20:15, a conferencia encara a súa etapa final e, con ela, as reflexións e
recomendacións brotan con claridade e naturalidade.
Se queremos convivir e usar a IA de forma segura, debemos coñecer as súas
potencialidades e limitacións. Debemos establecer vínculos sanos con ela, saber que a
amizade real é insubstituíble e cualitativamente mellor. Debemos fortalecernos nos
seus erros, disfrutar dos beneficios coñecendo e manexando os riscos.
O reloxo marca as 20:25 e os aplausos inundan a sala, o encontro chegou ao seu fin.
Comentarios