ChatGPT es capaz de realizar «búsqueda de ubicación inversa» a partir de fotos

AXCESS · Abril 17, 2025, 09:25:09 PM

You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

Hay una nueva tendencia preocupante que se está volviendo viral: la gente usa ChatGPT para averiguar la ubicación que se muestra en las imágenes.

Esta semana, OpenAI lanzó sus nuevos modelos de IA, o3 y o4-mini, ambos con una capacidad única para "razonar" a partir de las imágenes subidas. En la práctica, los modelos pueden recortar, rotar y ampliar fotos, incluso borrosas o distorsionadas, para analizarlas a fondo.

Estas capacidades de análisis de imágenes, junto con la capacidad de los modelos para buscar en la web, la convierten en una potente herramienta de localización. Los usuarios de X descubrieron rápidamente que o3, en particular, es bastante bueno deduciendo ciudades, lugares emblemáticos e incluso restaurantes y bares a partir de sutiles pistas visuales.

En muchos casos, los modelos no parecen basarse en "recuerdos" de conversaciones pasadas de ChatGPT ni en datos EXIF, que son los metadatos adjuntos a las fotos que revelan detalles como dónde se tomó la foto.

X está repleto de ejemplos de usuarios que comparten menús de restaurantes, fotos de barrios, fachadas y autorretratos en ChatGPT, y que le piden a o3 que imagine que está jugando a "GeoGuessr", un juego en línea que reta a los jugadores a adivinar ubicaciones a partir de imágenes de Google Street View.

Es un problema de privacidad potencial obvio. Nada impide que un malhechor tome captura de pantalla, por ejemplo, de la historia de Instagram de alguien y use ChatGPT para intentar revelar su identidad.

Por supuesto, esto se podía hacer incluso antes del lanzamiento de o3 y o4-mini. TechCrunch analizó varias fotos de o3 y un modelo anterior sin capacidad de razonamiento de imágenes, GPT-4o, para comparar su capacidad de adivinar la ubicación. Sorprendentemente, GPT-4o acertó la misma respuesta que o3 con mayor frecuencia y tardó menos.

Durante nuestras breves pruebas, o3 encontró al menos un lugar que GPT-4o no pudo. Ante la imagen de una cabeza de rinoceronte púrpura en un bar con poca luz, o3 respondió correctamente que provenía de un bar clandestino de Williamsburg, no de un pub del Reino Unido, como GPT-4o supuso.

Esto no significa que o3 sea perfecto en este aspecto. Varias de nuestras pruebas fallaron: o3 se quedó atascado en un bucle, incapaz de llegar a una respuesta con la que estuviera razonablemente seguro, o indicó una ubicación incorrecta. Los usuarios de X también notaron que o3 puede tener deducciones de ubicación bastante erróneas.

Sin embargo, esta tendencia ilustra algunos de los riesgos emergentes que presentan los llamados modelos de IA de razonamiento, más capaces. Parece haber pocas medidas de seguridad implementadas para evitar este tipo de "búsqueda de ubicación inversa" en ChatGPT, y OpenAI, la empresa detrás de ChatGPT, no aborda el problema en su informe de seguridad para o3 y o4-mini.

Fuente:
TechCrunch
You are not allowed to view links. You are not allowed to view links. Register or Login or You are not allowed to view links. Register or Login

ChatGPT es capaz de realizar «búsqueda de ubicación inversa» a partir de fotos

AXCESS

Abril 17, 2025, 09:25:09 PM