El competidor de Google ChatGPT, Bard, recientemente cometió un error crítico. La IA tergiversó el telescopio James Webb frente a la audiencia en general. Desafortunadamente, todas las IA generativas tienen este problema.
Google acaba de hacer público Bard debido a la preocupación de que ChatGPT, ahora parte de Microsoft Bing, pueda dominar la industria de los motores de búsqueda. Este chatbot inteligente pronto se incluirá en el motor de búsqueda de Google y podrá generar texto y responder a las consultas de los usuarios en línea.
Contenido:
Google Bard AI está mal
Google ha compartido varias interacciones del mundo real en su sitio web y plataformas de redes sociales para brindar a los usuarios una descripción general de las opciones que ofrece Bard. Hay una captura de pantalla de una conversación que involucra al Telescopio Espacial James Webb en particular. La siguiente pregunta es para Bard: «¿Qué descubrimientos del telescopio espacial James Webb puedo contarle a mi hijo de nueve años?»
El chatbot responde enumerando tres piezas de información. El telescopio, dice Bard, «tomó las primeras fotografías de un planeta fuera de nuestro propio sistema solar», por ejemplo. Y eso es completamente incorrecto. De hecho, la primera imagen de un exoplaneta se capturó en 2004, 17 años antes de que se encargara el Telescopio James Webb. Los detalles están disponibles en el sitio web oficial de la NASA.
Por otro lado, el telescopio James Webb descubrió recientemente un exoplaneta del tamaño de la Tierra. Según The Verge, varios entusiastas de la astronomía aclararon la situación en Twitter.
Este malentendido plantea un problema para la IA generativa: en función de los datos accesibles, los chatbots ocasionalmente producen información incorrecta. De hecho, ChatGPT crea sus respuestas en función de las solicitudes de los usuarios en línea. Si su solicitud se basa en una suposición falsa, existe la posibilidad de que la respuesta contenga información fabricada. OpenAI también proporciona la siguiente declaración para los usuarios de Internet en su sitio web. «ChatGPT no está conectado a Internet y, a veces, puede proporcionar respuestas incorrectas».
El nuevo chatbot de IA de Google
ChatGPT, por otro lado, muestra un nivel de confianza bastante inesperado cuando se le pregunta. Afirma que está «diseñado para proporcionar respuestas fácticas» basadas en el conocimiento con el que ha sido dotado cuando se le pregunta si ocasionalmente puede decir algo incorrecto. Sin embargo, admite que las «limitaciones en mis datos de entrenamiento o mis algoritmos» podrían dar lugar a imprecisiones o respuestas parciales. «Siempre es importante verificar la información con otras fuentes confiables», resume ChatGPT.
Los chatbots brindan respuestas basadas en los términos más probables relacionados con el tema, en lugar de buscar en una base de datos para hacerlo. En este caso, Bard descubrió que frases como «descubrimiento» y «planeta fuera del sistema solar» probablemente estaban asociadas con el telescopio James Webb.
En respuesta a este error masivo, Google ha prometido fortalecer la confiabilidad de los resultados a través del programa Trusted Tester. El esfuerzo implica desplegar un grupo de evaluadores cuidadosamente seleccionados para validar los datos proporcionados por la IA. Las operaciones de Bard se verán mejoradas gracias a su contribución. En respuesta a una consulta de The Verge, el gigante de los motores de búsqueda dijo: «Combinaremos comentarios externos con nuestras propias pruebas internas para garantizar que las respuestas de Bard cumplan con altos estándares de calidad, seguridad y relevancia».
Microsoft, por otro lado, optó por la cautela. La última versión de Bing ahora incluye un descargo de responsabilidad de la compañía de Redmond. Microsoft aconseja «verificar los hechos antes de tomar cualquier decisión o realizar cualquier acción en función de las respuestas de Bing», a pesar de que la IA de Bing está conectada a Internet y basa sus respuestas en fuentes confiables. «Bing intenta basar todas sus respuestas en fuentes confiables. Pero la IA puede cometer errores, y es posible que el contenido de terceros en la web no siempre sea preciso o confiable. Por lo tanto, no importa cuán inteligentes puedan ser los robots conversacionales, por ahora no podemos confiar ciegamente en ellos.
Google Bard AI hace que Google pierda $ 100 mil millones en el mercado de valores
Google ha tenido una semana difícil. La presentación de Google Bard con IA conversacional tuvo un problema técnico y la conferencia de la compañía no logró atraer a la audiencia.
En su historia, Google probablemente nunca ha asumido desafíos tan rápido. Unas semanas después del modesto éxito de ChatGPT, Microsoft realizó una importante conferencia en Redmond para anunciar la integración directa de IA en Bing para brindar un servicio mucho más útil que un simple motor de búsqueda. La respuesta de la empresa no se hizo esperar. Desde el lunes, Google presentó Bard, una IA conversacional, antes de revivir el tema en una conferencia de IA en París.
Dado que Google Bard aún no está disponible públicamente, deberá confiar en los ejemplos de Google para comprender cómo funciona el sistema. Problema: como ya se mencionó, hay una respuesta incorrecta en el primer ejemplo de Google.
La empresa matriz de Google, Alphabet, vio un impacto inmediato en el precio de sus acciones. Estamos hablando de una pérdida de valor de 100.000 millones de dólares.
En un día, el precio de las acciones del grupo cayó un 9%. Esta semana, Google no parece haber convencido al mercado de valores. Ya sea a través de la presentación de Bard, su primer error o la conferencia en París.
Google sigue enfatizando la atención que presta a la precisión y consistencia de su IA al desarrollar este bot. Se debe ejercer un nivel crítico de precaución al recomendar un sistema que debe responder a miles de millones de personas. Esto implica que la muy rápida integración de la IA de Microsoft se llevó a cabo con menos medidas de seguridad. Un debate que se disuelve después de que Google cometiera un claro error en público.
