El reciente reconocimiento de Tim Cook sobre la incertidumbre de Apple para abordar las ‘alucinaciones’ en sus sistemas de Inteligencia Artificial revela una de las principales preocupaciones en la implementación de IA en la vida cotidiana. Cook, CEO de Apple, ha afirmado que no puede garantizar que su nueva tecnología de Apple Intelligence no genere información falsa o engañosa. Esta honestidad, aunque refrescante, ha suscitado un gran debate sobre la naturaleza de las alucinaciones en la IA y lo que esto implica para los usuarios.
El término ‘alucinaciones’ aplicado a los modelos de lenguaje basado en inteligencia artificial puede ser engañoso para muchos. Como algunos comentaristas sugieren, este concepto da una connotación errónea y puede confundir a los usuarios sobre la verdadera naturaleza de los errores en la IA. La palabra ‘alucinación’ no siempre captura la simple verdad de que estos sistemas a veces generan información incorrecta debido a sus limitaciones tecnológicas inherentes.
Una parte importante del debate se centra en qué términos utilizar para describir estos fallos. Algunos comentaristas prefieren llamar ‘fabricación’ a estos errores, mientras que otros, como ein0p, argumentan que esto implica una intención maliciosa por parte del modelo de lenguaje, algo que claramente no es el caso. Los sistemas de IA actuales no tienen intención y no pueden ‘mentir’ de la manera en que lo hace un ser humano. Son simplemente máquinas que procesan patrones de datos de acuerdo con sus programaciones y formaciones.
La discusión se profundiza cuando se menciona que los desarrolladores de estas tecnologías saben que los modelos pueden generar información incorrecta, y que a menudo este diseño sin representación de verdaderos entendimientos puede llevar a resultados que, si fueran producidos por un humano, se considerarían como actos de engaño. Como jedbrown menciona, la programación de estos modelos se centra más en la percepción de comprensión y hechos, en lugar de diseñar una representación precisa de tales elementos.
Un concepto interesante que aparece en la conversación es la ‘confabulación’, una palabra usada por firejake308 para describir el fenómeno en términos humanos, pero que igualmente puede aplicarse a sistemas de IA. La confabulación hace referencia a una situación donde se inventa información debido a la falta de datos verdaderos, un comportamiento que también podemos observar en estos modelos de lenguaje cuando generan contenido basado en un vacío de información concreta.
El problema de fondo, como se expone en los comentarios, radica en las expectativas que tenemos de la inteligencia artificial. Como jedberg señala, la sociedad tiende a exigir perfección de los sistemas tecnológicos mientras tolera errores comunes en seres humanos. Esto es particularmente evidente en los campos de los vehículos autónomos y la tecnología de búsqueda, donde la mínima desviación de la precisión esperada puede ocasionar una reacción negativa considerable. Es necesario ajustar nuestras expectativas y aceptar que, al igual que los humanos, los modelos de IA también cometerán errores.
Uno de los puntos críticos es cómo estos modelos podrían demostrar y justificar las respuestas que generan. Algunos comentaristas sugieren que estos sistemas de inteligencia artificial deberían poder proporcionar referencias y mostrar su línea de razonamiento, al igual que lo haría una persona confiable. Sin embargo, esto no está claramente resuelto aún. Hay quienes afirman que los modelos ya pueden proporcionar referencias, como ein0p menciona al hablar de GPT-4, mientras que otros destacan que estas referencias también pueden ser inventadas.
Finalmente, otro comentario valioso sobre las expectativas de la innovación en IA es que, a pesar de los errores o ‘alucinaciones’, el avance en este campo sigue siendo impresionante. Cook mencionó que, a pesar de no alcanzar una perfección del 100%, Apple sigue comprometida con la mejora de sus sistemas. En resumen, aunque la IA de Apple todavía puede tener sus defectos, la empresa y otras en el sector están trabajando continuamente para minimizar los errores y mejorar la confiabilidad de sus modelos de inteligencia artificial.
Leave a Reply