El lamentable estado de la búsqueda es una señal siniestra para la era de la IA

Un sábado por la noche reciente, un ejecutivo tecnológico aburrido decidió jugar con una aplicación de inteligencia artificial de la que había estado escuchando. El ejecutivo, a quien llamaremos Matthew, comenzó de la forma en que la mayoría de la gente busca cosas en Internet: abrió su computadora portátil y escribió el nombre de la compañía de inteligencia artificial, Midjourney, en Google. Hizo clic en el resultado superior y con unos cuantos clics más descargó e instaló la aplicación.

O eso es lo que pensó que había hecho: en lo que realmente había hecho clic era en un anuncio que Google había vendido sin saberlo a un estafador disfrazado de Midjourney. Matthew, que solicitó el anonimato porque le preocupa que quien haya accedido a su computadora aún pueda tener sus datos personales, inadvertidamente instaló un "robo de información", un tipo de malware que rastrea la computadora de la víctima en busca de nombres de usuario y contraseñas, y luego los transmite a los piratas informáticos. Esta, conocida como Aurora, había accedido a su criptobilletera, a sus cuentas de redes sociales y quién sabe a qué más. Los piratas informáticos transfirieron el contenido de la billetera Coinbase de Matthew (cientos de miles de dólares en criptomonedas) a un banco que no era el suyo. "Es toda tu vida", dice Matthew. "Te sientes tan desnudo, asustado y vulnerable".

Matthew se culpa a sí mismo por no haber sido más cuidadoso, pero también culpa a Google por permitir que una estafa obvia llegara a la parte superior de su página de resultados. El fracaso se vio magnificado por las opciones de diseño que crean la sensación de que los enlaces de los resultados de búsqueda de Google son perfectamente objetivos y confiables, al tiempo que dificultan saber cuáles están allí porque alguien pagó para colocarlos allí. (Google etiqueta los anuncios como "patrocinados", pero es fácil pasar por alto la etiqueta).

La experiencia de Matthew plantea preguntas de larga data sobre los costos del dominio de la empresa en el mercado de búsquedas y su aparente incapacidad para controlar las estafas. Y sugiere que Google puede tener más dificultades de lo previsto para mantener las estafas y la desinformación fuera de su motor de búsqueda de chatbot experimental (y a veces cuestionado en los hechos). En Google Bard, como se le conoce, probablemente sea aún más difícil determinar la procedencia de la información que proporciona la empresa.

A finales de julio, el anuncio en el que Matthew había hecho clic había desaparecido, pero todavía aparecían sitios web falsos de Midjourney cerca de la parte superior de los resultados de búsqueda de Google. "El hecho de que todavía aparezca en los resultados es inadmisible", afirma. "Confié en ellos, pero fue una confianza falsa". Los listados falsos de Midjourney desaparecieron de Google poco después de una consulta de Bloomberg Businessweek. Google se negó a comentar sobre las listas falsas, pero dice que utiliza una combinación de revisores humanos y software para eliminar dicho contenido, lo cual prohíbe. También señala que el año pasado eliminó 5.200 millones de anuncios por violar las políticas de la empresa. "Si bien hay malos actores que intentan eludir nuestras protecciones, los sistemas de Google son muy eficaces para mostrar información de alta calidad y combatir el spam y el comportamiento malicioso", afirma Ned Adriance, portavoz de la empresa.

No debería haber hecho falta un sistema antiestafa sofisticado para darse cuenta de que el anuncio que Google le mostró a Matthew era malicioso. La lista apuntaba a un sitio web que pretendía ser de Midjourney, pero reemplazó la letra "o" en el nombre de la empresa por un cero, una táctica de estafa muy conocida. Había hilos en Reddit advirtiendo a los usuarios sobre esto exactamente antes de que Matthew hiciera clic, y el senador demócrata de Connecticut Richard Blumenthal en una carta de 2022 acusó a Google de haber "no abordado sistemáticamente estafas peligrosas, suplantación de identidad y delitos cibernéticos". Además, Midjourney ni siquiera tiene una aplicación descargable; accedes a él a través de la aplicación de chat Discord.

Ejemplos similares han aparecido periódicamente a lo largo de la historia de Google. A finales de julio, por ejemplo, Shmuli Evers, un diseñador digital, descubrió que los estafadores habían logrado engañar a Google para que diera números de teléfono falsos a Delta Air Lines Inc. y otras grandes aerolíneas para vender billetes falsos. Google corrigió el error después de que Evers tuiteara al respecto, pero los críticos dicen que la compañía conoce desde hace mucho tiempo sobre estafas de números de teléfono similares. "Estos secuestros han ocurrido todos los años durante los últimos 15 años", dice Mike Blumenthal, cofundador de Near Media, que asesora a empresas sobre marketing digital y de búsqueda. "Durante mucho tiempo, Google ha repercutido los costes de estas estafas en la sociedad".

Los estafadores han cambiado los números de teléfono de floristas, cerrajeros y hoteles, dice Blumenthal, que ha documentado casos que se remontan a 2008. "No toleramos esta actividad engañosa y estamos monitoreando y evolucionando constantemente nuestras plataformas para combatir el fraude", dice Adriance, refiriéndose a las estafas de las aerolíneas.

Google también está sujeto a un tipo de manipulación más sutil. Los especialistas en marketing de motores de búsqueda, a veces con la ayuda de ChatGPT y servicios similares, han llenado las páginas de resultados en ciertas categorías con sitios web basura y de autopromoción que a menudo carecen de algo útil. El problema, que Atlantic describió el año pasado como "El secreto a voces de la Búsqueda de Google", ha provocado que los usuarios recurran a trucos para intentar filtrar resultados falsos. Una de las tácticas más populares consiste en añadir la palabra "Reddit" a cualquier búsqueda para intentar que Google se centre en esa red social, que se considera que ha evitado en gran medida verse invadida por marketing y spam. Otro enfoque: reemplazar Google con TikTok, que produce resultados que pueden ser mucho menos spam si buscas restaurantes, recetas o consejos de viaje. Finalmente, están los chatbots, como Bard y el que Microsoft Corp. desarrolló para su motor de búsqueda Bing, que según algunos pronosticadores podría eventualmente reemplazar la búsqueda web tradicional.

Google dice que la gran mayoría de sus clientes están contentos con la calidad de sus resultados de búsqueda, lo que explica, al menos en parte, por qué su dominio en la categoría se ha mantenido más o menos indiscutido durante dos décadas. La empresa disfruta de una cuota de mercado del 91% en los motores de búsqueda, según Similarweb.

El Congreso podría ejercer más presión reformando la Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a los sitios web de la responsabilidad legal relacionada con el contenido que sus usuarios han creado. Pero tal acción sería fuertemente cuestionada y el Congreso no ha demostrado la capacidad de abordar esas cuestiones en los últimos años. Un camino más probable podría ser una demanda presentada por el Departamento de Justicia de Estados Unidos y los fiscales generales estatales, que busca separar a Google de dos redes publicitarias que compró hace años. Google ha dicho que la demanda es un "intento de elegir ganadores y perdedores en el altamente competitivo sector de la tecnología publicitaria".

Es poco probable que esas acciones gubernamentales se resuelvan en años. Mientras tanto, Matthew advierte a amigos y familiares que tengan cuidado. Aunque finalmente pudo recuperar el 90% de su dinero con la ayuda del FBI, dice que a partir de ahora pondrá su dinero en bancos convencionales en lugar de criptomonedas. Pero le preocupa que la gente siga cayendo en estafas similares. "En este punto, Google es lo suficientemente sofisticado como para que si busco algo simple como Midjourney, espero que el enlace principal sea el sitio web de Midjourney", dice. "Sólo hay problemas prácticos que no están resolviendo".

Descargo de responsabilidad:Este artículo apareció por primera vez en Bloomberg y se publica mediante un acuerdo de distribución especial.

Búsqueda / IA / Inteligencia artificial / Bard / google / Estafadores