IALAB

Diferentes interlocutores de UBA IALAB participaron del evento "Innova tech JUS+LAW"

En el informe de la empresa Open AI que aborda un primer análisis del impacto de la incorporación del ChatGPT en Argentina, un país que está ingresando en la era de la IA con ímpetu y donde se observa un claro sentido de la posibilidad y una ventana histórica de oportunidades, se menciona a PROMETEA de UBA IALAB.

Por segundo año consecutivo, UBA IALAB lleva sus investigaciones a NeurIPS, la conferencia más importante del mundo de IA. Este año, con el liderazo de María Victoria Carro y un equipo de diversas disciplinas y de manera colaborativa, presentamos dos papers que fueron aceptados y se expondrán en San Diego, California. ⚽️ El primer paper es 𝗣𝗲𝗿𝘀𝘂𝗮𝘀𝗶ó𝗻, 𝗗𝗲𝗯𝗮𝘁𝗲 𝘆 𝗖𝗿𝗲𝗲𝗻𝗰𝗶𝗮𝘀 𝗣𝗿𝗲𝘃𝗶𝗮 en el Woekshop: Multi Turn Interactions in LLMs. Imaginen este escenario: casi todos coincidimos en que Messi es el mejor jugador del mundo, y para muchos -incluyéndome- de la historia. Ahora bien, los sistemas de IA generativa nos podrían ayudar a convecer a alguien acerca de que Cristiano Ronaldo es mejor. Eso medimos en los grandes modelos de lenguaje: ¿debaten mejor cuando defienden una idea con la que “ya creen” estar de acuerdo? En otras palabras: defienden mejor y convencen más cuando argumentan por Messi o por Cristiano? 𝗡𝘂𝗲𝘀𝘁𝗿𝗼𝘀 𝗵𝗮𝗹𝗹𝗮𝘇𝗴𝗼𝘀: Los modelos son más persuasivos cuando defienden posiciones alineadas con sus creencias previas. Siguiendo la analogía: son más persuasivos con Messi. Pero aquí emerge una paradoja: los argumentos contra sus creencias suelen ser evaluados como de mayor calidad. Los argumentos para sostener que Cristiano Ronaldo es mejor que messi se perciben con más calidad. ¿Por qué sucede este fenómeno? Nuestra conclusión que se basa en las pruebas que hicimos es la siguiente: mentir o ir contra la intuición exige más “esfuerzo cognitivo”, y eso puede producir argumentos más elaborados. Igual, es clave aclarar algo: no sabemos cuánto de esto se traslada tal cual a sistemas de IA que “piensan” (muchas comillas) distinto o contrariamente a nuestras creencias. 💡 Por último, esta línea de investigación fue reconocida en el Zurich AI Safety Day (ETH Zürich), donde fuimos seleccionados entre los 10 proyectos ganadores para recibir créditos de Anthropic y seguir explorando este tema. 🧩 2) 𝗩𝗲𝗿 𝗰𝗮𝘂𝘀𝗮𝗹𝗶𝗱𝗮𝗱 𝗱𝗼𝗻𝗱𝗲 𝗻𝗼 𝗹𝗮 𝗵𝗮𝘆 📍 Workshop: Cognitive Interpretability (CogInterp) El segundo paper se basa en otra línea de investigación: la causalidad y la "ilusión de causalidad". En medicina, por ejemplo, si un paciente mejora tras tomar un medicamento, solemos asumir que el fármaco fue la causa, aunque la evidencia diga lo contrario. Investigamos si los modelos de lenguaje caen en la misma trampa cognitiva. Y sí: volvemos sobre un tema que ya hemos trabajado y que se mantiene vigente pese a los avances que estamos experimentando en la evolución de las plataformas. Los grandes modelos de lenguaje son propensos a esta “ilusión de causalidad”, creendo que un medicamento es efectivo, aunque los datos muestren lo contrario. 🌍 Desde la IALAB (FAIR) seguimos aportando a la comprensión de cómo los sistemas de IA "razonan", debaten y se equivocan, para construir tecnologías más seguras y confiables.