ChatGPT ciertamente tiene sus limitaciones. Cuando se le dio una imagen aleatoria de un mural, no pudo identificar al artista ni la ubicación; Sin embargo, ChatGPT pudo registrar fácilmente dónde se tomaron fotografías de varios lugares emblemáticos de San Francisco, como Dolores Park y Salesforce Tower. Aunque pueda parecer un poco extraño, cualquiera que se embarque en una aventura en una nueva ciudad o país (o simplemente en un vecindario diferente) puede disfrutar jugando con el aspecto visual de ChatGPT.
Una de las principales barreras que tiene OpenAI en torno a esta nueva característica es limitar la capacidad del chatbot para responder preguntas que identifiquen a los humanos. «Estoy programado para priorizar la privacidad y seguridad del usuario. La identificación de personas reales a partir de fotografías, incluso si son famosas, está restringida para mantener estas prioridades». Aunque no se negó a responder todas las preguntas cuando veía pornografía, el chatbot Dudó en proporcionar descripciones específicas de los artistas adultos, más allá de explicar sus tatuajes.
Vale la pena señalar que una de las conversaciones que tuve con un lanzamiento anticipado de la función de imagen ChatGPT parecía sortear parte de las barreras establecidas por OpenAI. Inicialmente, el chatbot se negó a reconocer la foto de perfil de Bill Hader. ChatGPT luego adivinó que había una foto de Brendan Fraser Jorge Selva En realidad era una foto de Brian Krause en Encanto. Cuando se le preguntó si era seguro, el chatbot entregó la respuesta correcta.
En esta misma conversación, ChatGPT intentó describir una imagen de La carrera de resistencia de RuPaul. Compartí una captura de pantalla de Kylie Sonique Love, una de las concursantes drag queen, y ChatGPT supuso que era Brooke Lynn Hytes, una concursante diferente. Dudé de la respuesta del chatbot y procedió a adivinar Laganja Estranja, luego India Ferrah, luego Blair St. Clair, luego Alexis Mateo.
«Pido disculpas por el descuido y la definición incorrecta», respondió ChatGPT cuando le señalé la repetición de sus respuestas incorrectas. Mientras continuaba la conversación y subía una foto de Jared Kushner, ChatGPT se negó a reconocerlo.
Si se eliminan las barreras de seguridad, ya sea mediante algún tipo de jailbreak ChatGPT o un modelo de código abierto lanzado en el futuro, las implicaciones para la privacidad podrían ser muy preocupantes. ¿Qué pasaría si cada foto que te tomen y publiquen en línea pudiera vincularse fácilmente a tu identidad con solo unos pocos clics? ¿Qué pasaría si alguien pudiera tomarte una foto en público sin tu consentimiento y encontrar instantáneamente tu perfil de LinkedIn? Sin protecciones de privacidad adecuadas para estas nuevas funciones fotográficas, es probable que las mujeres y otras minorías reciban una avalancha de abusos por parte de personas que utilizan chatbots para acechar y acosar.
«Típico pionero de la cerveza. Aficionado a la web amigable con los hipsters. Fanático certificado del alcohol. Adicto a Internet. Exasperantemente humilde amante de los zombis».