En noviembre de 2023 el New York Times escribió – basado en datos proporcionados por la startup vectarafundada por ex empleados de Google – la tasa de alucinaciones de ChatGpt, es decir, la frecuencia con la que esta IA inventa contenidos o escribe respuestas incorrectas, es 3%.
Puede parecer un porcentaje ridículo, pero si tienes la mala suerte de encontrarte con un error del chatbot… y no eres capaz de reconocerlo – las consecuencias pueden ser devastadores. Pensemos, por ejemplo, en el impacto que una información infundada podría tener en las decisiones de médicos, directivos o analistas.
El El problema de las “alucinaciones” no se trata solo de ChatGpt. Todos los chatbots basados en LLM (Modelos de lenguaje grande) ocasionalmente cometen errores.
Pero hasta ahora solo una IA lo ha hecho disponible una herramienta muy eficaz para verificar la fiabilidad de los textos que genera. Se trata de Geminisla inteligencia artificial generativa desarrollada por Google.
Al igual que ChatGpt, Gemini se expresa con naturalidad y puede satisfacer las peticiones que habitualmente se hacen a una IA: resumir o reorganizar un texto, traducir una frase, sugerir ideas creativas o responder adecuadamente a un correo electrónico.
Las mejores apps gratuitas para generar textos e imágenes con IA
por Pier Luigi Pisa
02 enero 2024
Pero Gemini, a diferencia de la versión gratuita de ChatGpt, también tiene acceso a Última información encontrada en la web.. Esto es importante por dos razones: el usuario siempre puede contar con respuestas actualizadas y, lo que es más importante, el propio usuario tiene la oportunidad de comprobarlo. el grado de confiabilidad de la respuesta generado por el chatbot.
Escribimos “grado” de fiabilidad no por casualidad. La razón pronto quedará clara.
Debajo el texto generado por Gemini siempre está ahí. una “G” de color.es decir, el símbolo de Google.
Al hacer clic en esta “G” se inicia una verificación de la respuesta producida por el chatbot. Géminis, en la práctica, realizar una búsqueda web “tradicional” para encontrar información que pueda confirmar o refutar el texto generado por IA.
Cuando se completa la búsqueda, Gemini colorea algunas frases de la respuesta que generó. verde o naranja.
El frases en verde contener información “verificada”, de los cuales Gemini encontró una coincidencia en la web.
Simplemente haga clic en ellos para obtener el enlace a una fuente considerada confiable lo que confirma lo generado por la IA. Pero Google advierte que el enlace propuesto “no es necesariamente el utilizado por Gemini para generar su respuesta original”.
El frases de color naranja, en cambio, son aquellas que “probablemente” difieren de la información (correcta) recuperada por Google online. También existe la posibilidad de que Google no haya encontrado ningún contenido relevante relacionado con las frases naranjas, por lo que es dudoso. Nuevamente se proporciona un enlace si está disponible.
En resumen, naranja. es una señal de advertencia: algo en el texto que generó la IA no cuadra, según Google, y es apropiada una verificación adicional.
Finalmente, puede suceder que varias partes del texto no estén coloreadas. ni verde ni naranja: significa que “no hay información suficiente para evaluar las declaraciones [del chatbot, nda] o las declaraciones no pretenden proporcionar información objetiva”. En este caso, por supuesto, es imprescindible. una verificación por parte del usuario de la información producida por Géminis.
Hay que decir, en conclusión, que otras herramientas equipadas con IA capaces de acceder a información en la web, como Copiloto de Microsofto Perplejidadayuda al usuario a verificar los textos generados ofreciendo, debajo de cada respuesta, una selección de enlaces útiles para profundizar o verificar de forma independiente el tema en cuestión.
v
