Google pretendía facilitarle la vida a sus usuarios usando AI Overviews para brindar en pocos párrafos las respuestas a sus preguntas antes incluso de entrar a cualquier enlace. Y aunque efectivamente, se trata de una herramienta útil que ahorra minutos de investigación, también tiene sus riesgos fiarse de sus respuestas, sobre todo en el ámbito de la salud.
Quedó demostrado recientemente, pues el mismo Google tuvo que limitar AI Overviews frente a ciertas búsquedas por haber estado suministrando información peligrosa y errada.
Google frena a AI Overviews en consultas sobre la salud
La nueva postura de Google llega gracias a una investigación hecha por el medio The Guardian. En su publicación sobre este tema, descubrieron que cuando los usuarios buscaban en Google “¿Cuál es el rango normal para los análisis de sangre del hígado?”, la propia AI Overviews revelaba un resultado general en donde se omitían detalles importantes y por ende, brindaban información que ponía en peligro al paciente.
Y es que, de acuerdo a The Guardian, esta respuesta tan generalista dejaba por fuera variables como el sexo, la etnia, la edad o el contexto clínico, que podrían darle un giro de 160º al diagnóstico. El riesgo al que exponían a las personas era a pensar que sus resultados eran completamente normales cuando en realidad necesitaban ser atendidos por médicos.
Este detalle no es poca cosa: recordemos que Google es el buscador más usado en el mundo. Lo que implica que millones de personas lo consultan a diario, incluyendo las que preguntan por su salud hepática. La información de AI Overviews podría haber engañado a miles de personas, disuadiéndolas de acudir a profesionales para evaluar sus casos.
Lo bueno es que, como reacción al reportaje, Google decidió deshabilitar las respuestas generales del buscador para esta pregunta en concreto. Lo malo de esto, es que al variar algunas palabras en la búsqueda, es posible recibir una vez más el riesgoso resultado.
Abordar casos puntuales no soluciona el mayor problema
Google asumió el problema con discreción. Su portavoz aseguró que el equipo se encontraba trabajando todos los días por mejorar las respuestas. Frente a este caso en particular, comentaron que, tras consultarlo con especialistas, confirmaron que las respuestas no eran del todo desacertadas, pues técnicamente se consideraban correctas. Además, estaban respaldadas por fuentes confiables.
De cualquier forma, decidió retirar la participación de AI Overviews para cuidarse en salud. Vanessa Hebditch (directora de comunicaciones y políticas en el British Liver Trust), señaló que era un buen comienzo, aunque el hecho de que sea solo un parche no soluciona el problema de raíz.
En realidad, al igual que ella, muchos otros especialistas en salud se preguntan si es conveniente dejar que AI Overviews tome las riendas en cuanto a la información que buscan las personas sobre temas relacionados con la salud. Un tema tan delicado no debería tomarse a la ligera. Lo bueno es que para los más juiciosos, se puede desactivar la IA de Google en las búsquedas por completo.
Es posible que, tras esto, Google le dé mayor atención a la información que maneja su IA en el ámbito médico. Lo recomendable, sin embargo, siempre será resolver las dudas con un especialista de la salud de carne y hueso.
