SAN FRANCISCO (Reuters) – Alphabet Inc (GOOGL.O) advirtió a los empleados sobre cómo estaban usando sus chatbots, incluido su Bard, al mismo tiempo que comercializa el software en todo el mundo, según cuatro personas familiarizadas con el comando. Reuters.
La matriz de Google aconsejó a los empleados que no ingresen sus materiales confidenciales en los chatbots inteligentes, dijeron las personas y la compañía confirmó, citando una política de larga data sobre protección de la información.
Los chatbots, entre ellos Bard y ChatGPT, son programas similares a los humanos que utilizan la llamada inteligencia artificial generativa para conversar con los usuarios y responder a innumerables indicaciones. Los revisores humanos pueden leer los chats y Los investigadores encontraron Una IA similar puede reproducir los datos que ha absorbido durante el entrenamiento, lo que conlleva el riesgo de fugas.
Algunas personas dijeron que Alphabet también advirtió a sus ingenieros que evitaran el uso directo del código de computadora que podrían generar los chatbots.
Cuando se le pidió un comentario, la compañía dijo que Bard puede hacer sugerencias de código no solicitadas, pero que de todos modos ayuda a los programadores. Google también dijo que pretende ser transparente sobre las limitaciones de su tecnología.
Las preocupaciones muestran cómo Google quiere evitar el daño comercial de los programas que ha lanzado en competencia con ChatGPT. Lo que está en juego en la carrera de Google contra los patrocinadores de ChatGPT OpenAI y Microsoft Corp (MSFT.O) son miles de millones de dólares en inversión y publicidad e ingresos en la nube aún no revelados del nuevo software de IA.
La advertencia de Google también refleja lo que se ha convertido en un estándar de seguridad para las empresas, advirtiendo a las personas que no utilicen chatbots disponibles públicamente.
Un número cada vez mayor de empresas en todo el mundo han instalado cortafuegos en chatbots inteligentes, dijeron las empresas a Reuters, entre ellas Samsung (005930.KS), Amazon.com (AMZN.O) y Deutsche Bank (DBKGn.DE). Apple (AAPL.O), que no respondió a las solicitudes de comentarios, también lo habría hecho.
Alrededor del 43 % de los profesionales usaban ChatGPT u otras herramientas de inteligencia artificial a partir de enero, a menudo sin decirle a sus jefes, según una encuesta de casi 12,000 encuestados, incluidas las principales empresas con sede en EE. UU., realizada por el sitio de la red Fishbowl.
En febrero, Google había pedido a los empleados que probaron el Bard antes de su lanzamiento que no le dieran información privilegiada. mencioné adentro. Google ahora implementa Bard en más de 180 países y en 40 idiomas como un trampolín para la creatividad, y sus advertencias se extienden a sus sugerencias de código.
Google dijo a Reuters que ha mantenido conversaciones detalladas con la Comisión de Protección de Datos de Irlanda para abordar las preguntas de los reguladores, luego del informe de Politico el martes de que la compañía estaba retrasando el lanzamiento de Bard en la UE esta semana a la espera de más información sobre el impacto del chatbot en la privacidad.
Inquietudes sobre la información sensible
Dicha tecnología puede crear correos electrónicos, documentos e incluso los propios programas, lo que promete acelerar las tareas de manera exponencial. Sin embargo, este contenido podría incluir información falsa, datos confidenciales o incluso pasajes protegidos por derechos de autor de la novela «Harry Potter».
El aviso de privacidad de Google, actualizado el 1 de junio, también establece: «No incluya información confidencial o delicada en sus conversaciones con Bard».
Algunas empresas han desarrollado software para hacer frente a estas preocupaciones. Por ejemplo, Cloudflare (NET.N), que defiende los sitios web contra los ataques cibernéticos y ofrece otros servicios en la nube, comercializa la capacidad de las empresas para marcar y restringir el flujo de salida de ciertos datos.
Google y Microsoft también ofrecen herramientas de conversación a clientes comerciales que cobrarán un precio más alto pero se abstendrán de incorporar datos en modelos genéricos de IA. La configuración predeterminada en Bard y ChatGPT es guardar el historial de chat de los usuarios, que los usuarios pueden optar por eliminar.
Yousef Mahdi, director de marketing de consumo de Microsoft, dijo que «tiene sentido» que las empresas no quieran que sus empleados usen chatbots públicos en el trabajo.
“Las empresas están adoptando una postura conservadora”, dijo Mehdi, explicando cómo se compara el chatbot Bing gratuito de Microsoft con su software empresarial. «Allí, nuestras políticas son mucho más estrictas».
Microsoft se negó a comentar si tenía una prohibición general para que los empleados ingresen información confidencial en los programas públicos de inteligencia artificial, incluido el suyo propio, aunque otro ejecutivo dijo a Reuters que había restringido personalmente su uso.
Escribir asuntos confidenciales en los chatbots era como «sacar a un montón de estudiantes de doctorado todos tus registros privados», dijo el CEO de Cloudflare, Matthew Prince.
Información de Jeffrey Dustin y Anna Tong en San Francisco Editado por Kenneth Lee y Nick Zieminski
Nuestros estándares: Principios de confianza de Thomson Reuters.
«Fanático del alcohol exasperantemente humilde. Practicante de cerveza sin disculpas. Analista».