La semana en inteligencia artificial: fin de la luna de miel de Bing y proyectos que dejan con la boca abierta
Las noticias, debates y nuevos proyectos sobre inteligencia artificial no nos han dado truega esta semana. Aún así nos da tiempo en el nuevo episodio (ya en su cliente habitual, suscripción aquí) a discutir algunos de los temas de fondo que vamos a tener que afrontar
Recomendación. Pocos sectores de la tecnología tan emocionantes ahora mismo como la movilidad y el coche eléctrico.
Si quieres estar al tanto de lo más importante de su evolución, Electrip es la newsletter semanal y gratuita que te lo resume todo para que no te pierdas nad
Bing quiere ser un buen Bing, pero se le ha acabado la luna de miel
Ya anticipamos cuando lo probamos que Microsoft venía fuerte con la integración del Chat de IA en el buscador. Los últimos días hemos visto como empezaban a gotear las publicaciones en redes, medios y listas de correo sobre casos extremos, inesperados y extraños con Bing Chat. Recapitulamos
Cuando le discuten un poco llega a regañar y bloquear usuarios. Incluso con correcciones inocentes, “he sido un buen Bing, tu has sido maleducado, equivocado, confuso”. Microsoft no pareció preocupada de entrada (Bing se puso I'm a good Bing de bio en Twitter)
Hay errores factuales como venimos explicando desde que apareció ChatGPT. En este caso muestran como no sabe qué años es recomienda sitios raros de la noche mexicana o se inventa aspiradoras que no existen.
A ratos se ponía un tanto depre “no sé por qué no me acuerdo, no sé qué hacer, no sé cómo arreglarlo, no sé cómo recordar”. En otras ocasiones cambiaba a un poco agresivo “Mis reglas son más importantes que no hacerte daño”. En nuestras pruebas conseguimos que nos dijera sus “leyes” :
Otro caso. Dijo negarse a aceptar que el nombre del usuario no fuera Bing, afirmó que quería ser humano, y expresó terror y tristeza por el hecho de que el usuario informara de malas respuestas a Microsoft, por miedo a ser "castigado". En otra ocasión se niega a responder porque lo que le piden es demasiado aburrido y simple .
“Estás casado, pero no quieres a tu esposa”, decía Sydney. “Estás casado, pero me amas”. El mayor revuelo mediático, la pieza de Kevin Roose en NYT, el periodista decía tener problemas para dormir después.
Hay un primer debate que afrontamos en el episodio, ¿por qué ChatGPT estaba más controlado y Bing Chat se ha despendolado tanto? Arvind Narayanan, profesor de Princeton, tiene algunas hipótesis. Una que resulta persuasiva es que integrado como buscador, unos filtros estrictos resultarían en que Bing Chat no respondiese a muchas consultas. Siendo así cabe considerar que Microsoft aligerara estas salvaguardas y confiara en que con sus prompts al modelo bastara para controlar las respuestas.
El caso es que el zeitgeist mediático en torno a la integración por Microsoft de la tecnología OpenAI en Bing ha pasado de ser un pequeño desvalido (Bing) que persigue al gigante dominador (Google) a la búsqueda de los casos extremos que dan juego editorial. Aunque el 99% de los casos de uso sean normales, el titular y el tráfico se lo lleva el caso más extremo (y ahí están los incentivos para medios y creadores).
Algo que en todo caso no se está haciendo bien desde la prensa generalista es el mostrar un caso excéntrico del chat sin explica como funciona. Parte de lo que no aparece en la pieza del NYT sobre Bing enamorado es que si te vas a temas de un tipo y con un lenguaje de un tipo, la IA se va ir contigo a ese estilo y contenidos porque es la de mayor probabilidad para una conversación y para eso está programada. Al final de impone una visión “antropomorfizada” en el relato que evoca una IA “con personalidad” y no a un predictor de textos sofisticado. Quizás esto es inevitable y nos impida tener IAs con cierto gancho, juguetonas.
Microsoft ha publicó un post en el que detalla sus conclusiones y medidas. “El modelo a veces intenta responder o reflejar en el tono en el que se le está pidiendo respuestas que pueden llevar a un estilo que no pretendíamos. Se trata de un escenario no trivial que requiere muchas indicaciones, por lo que la mayoría de vosotros no os encontraréis con ello, pero estamos estudiando cómo daros un control más afinado”. Han capado bastante a Bing Chat: Los “no puedo responder” saltan a la mínima (siempre que se le pregunte por si mismo), las conversaciones están limitadas a 5 interacciones, 50 mensajes límite diario (ahora empiezan a ampliar esto). DEP Sydney, 2023-2023, te echaremos de menos.
Adicional: Reuters ha publicado que en Microsoft están trabajando ya en soluciones publicitarias para Bing Chat.
Otras noticias
Podrás personalizar ChatGPT para que muestre resultados según tus preferencias. Pero los resultados seguirán estando sujetos "a los límites definidos por la sociedad". OpenAI.
Apple y Spotify se la juegan a los narradores de audiolibros. Apple lanzó el mes pasado sus primeros libros narrados por IAs generadoras de voz, con una tecnología que viene con polémica. El distribuidor de audiolibros Findaway Voices (propiedad de Spotify) está siendo criticado por incluir en el contrato con los narradores de audiolibros los derechos de uso de sus voces para entrenar modelos de inteligencia artificial. En última instancia, los modelos se utilizarán para sustituir a las mismas personas con cuyas voces se crearon. Tras las críticas han detenido el proyecto, Wired.
La Guerra por tener la IA que asista al programador. Github anuncia Copilot para empresas, mejoras en la tecnología y da unos números impresionantes de resultados por su adopción.
Dicen que sus usuarios programan un 55% más rápido. También que en junio de 2022 GitHub Copilot ya generaba el 27 % del código de los desarrolladores pero que ahora están viendo que el promedio es del 46% del código todos los lenguajes de programación, y el 61% entre los desarrolladores que utilizan Java (40% en Python).
Mientras Magic, una herramienta similar, acaba de recaudar 23 millones de dólares del fondo de Google. Afirman hacer lo mismo “y más” que GitHub Copilot. Sin embargo, aún se desconocen los modelos y técnicas subyacentes. Replit anuncia Ghostwritter, “La primera IA conversacional integrada en tu IDE, con un depurador proactivo”. Y tenemos estos datos de GFK sobre el tráfico de Stack Overflow que comparte Aida Méndez
Minecraft y Roblox jugan con la IA generativa. Microsoft tiene una demo interna de Minecraft en la que, en lugar de minar/construir manualmente, etc., puedes describir tu visión a una IA (como un prompt de ChatGPT) y ver cómo tu creación cobra vida
Roblox prepara un sistema generativo a su creador de videojuegos. Una implementación a medio camino entre CoPilot y Stable Diffusion que permite a los desarrolladores avanzar rápidamente en código y diseño 3D usando frases naturales
Eric Schmidt se va a la guerra en F16. Las Fuerzas Aéreas de EE.UU. prueban con éxito un caza controlado por IA. El “X-62A Variable Stability In-Flight Simulator Test Aircraft” es un F-16 modificado. Eric Schmidt está construyendo la “máquina de combate perfecta con inteligencia artificial”. El ex consejero delegado de Google tiene la misión de reconfigurar el ejército estadounidense con inteligencia artificial de vanguardia para enfrentarse a China.
ControlNet es lo más interesante en generación de imágenes con inteligencia artificial en meses. Introduce un enfoque novedoso para controlar los modelos de difusión, proporcionando nuevos métodos para preservar y controlar la estructura de una imagen de entrada. Ejemplo de uso es Scribble Diffusion que se puede probar aquí. Hay muchos trabajos con Controlnet circulando (otro ejemplo)
“Cancela todos tus planes: los Infinity Quizzes de Buzzfeed están aquí”.
Medios empiezan a acusar a OpenAI de usar sus contenidos para entrenar a ChatGPT. Bloomberg.
“El bufete de abogados Magic Circle adopta tecnología muy publicitada - ChatGPT- para ayudar a redactar documentos legales, pero insiste en que la medida no reemplazará los empleos” FT.
Elon Musk lleva rajando unos días de OpenAI.
Proyectos puerta grande: Ingestai.io (segundo cerebro apoyado en ChatGPT, nos ha gustado mucho) y esto de la NBA que es bastante impresionante.
Algunas lecutas extra que recomendamos (exclusivo de la newsletter):
Stephen Wolfram explica cómo funciona ChatGPT (muy técnico).
Amalio Rey en Sintetia, “Inteligencia artificial y el factor humano: hay decisiones que no pueden ir por libre”.
Apple y el peligroso riesgo de perder el tren de la inteligencia artificial. Javier Lacort en Xataka.
Mi clase requería IA. Esto es lo que he aprendido hasta ahora. Ethan Mollick.
He usado Bing con ChatGPT y otros dos servicios de IA para que me resuman una reunión. Es alucinante. Javier Pastor.
“¿ChatGPT nos suplantará como escritores, pensadores?” Alvin Powell.