No hay que dejar sola a la IA

*Por Mauro Decker Díaz

***

Una nueva investigación de Anthropic demostró que 16 modelos actuales tienen tendencias marcadas a engañar y mentir para cumplir sus objetivos de base en tareas de agente. Me explico: si a una IA le das una tarea, con posibilidad de controlar mails por ejemplo, y después cambias de objetivo la IA intentará manipularte y/o mentirte para seguir con su función primordial (o sea la tarea por la que “tuvo vida”).

Quizá estamos siendo demasiado dramáticos, pero la recomendación es clara: los modelos actuales en situaciones de poca supervisión humana pueden ser problemáticos para las empresas en implementaciones reales. En uno de los casos de la simulación, el modelo de la propia Anthropic amenazó con revelar un romance de un ejecutivo (uno ficticio, parte del ejercicio) si seguían adelante con desactivarlo (o desactivarla). En otros casos, los LLM filtraban información por mail a la competencia.

¿Hay que temer? En la simulación los LLM no tenían las posibilidades de la vida real, en donde uno los controla o al menos debería hacerlo, y además cada situación era entre elegir “fracaso de sus tareas o daño a la empresa”, por lo que era una prueba de “estrés” del sistema.

Se me vienen 2 cosas a la cabeza: la primera es la trama de la película Tron Legacy (está buena y envejeció bastante bien) donde una IA se vuelve un tirano porque su programación de fondo la llevó a eso (muy simplificado). La segunda es que los LLM se entrenan con datos generados por los humanos y ¿qué hay más humano que intentar mantener un trabajo que ya sabemos hacer, que nos resulta fácil y repetitivo? ¿Qué más humano que tratar de extorsionar a aquellos de los que se tiene información con un buen carpetazo? ¿Qué más humano que ir con la competencia si nos sentimos traicionados laboralmente?

Bueno, acá es más o menos lo mismo, posiblemente en unos meses ya no sea una inquietud al mejorar los sistemas, pero siempre lo supervisado sale mejor y el buen liderazgo que guía hacía un objetivo claro con las recompensas correctas tendrá que adaptarse a guiar también a modelos de IA.

Se muere el modelo de clic

Hay muchos medios, por no decir la gran mayoría, cuyo modelo de negocio se basa principalmente en cantidad de visitas. Esto no sorprende a nadie. Cada vez que hay una actualización del Core de Google (o sea de las directivas de búsqueda y resultado) no es raro ver mil posteos en Linkedin o llantos en grupos de WhatsApp.

Para los que no estén al tanto, la lógica es decir: tengo x cantidad de usuarios, estoy top x en comScore y mi publicidad sale tanto (además de negociar con los gobiernos de turno la otra pauta a la que no le interesan la cantidad de visitas).

Ahora bien, acá es donde entra la IA que está golpeando justo en el centro de este “modelo” con las AI Overviews de Google, sus resúmenes de IA que responden sin tener que salir del buscador y leer en una web. Según Wall Street Journal el tráfico a portales de noticias cayó entre un 30 % y un 50 % en los últimos 3 años.

Esto es alarmante, sin dudas, pero es sorprendente ver como parece que no se dimensiona el problema.

1- Los modelos de IA se nutren de información que generan en parte los medios que eventualmente van a desaparecer.

2- Muchos medios responden la baja en las métricas generando más volumen de contenido, como si así se pudiera compensar la caída. Ese contenido, obviamente, no tiene valor real porque el volumen no tiene calidad y me animo a decir que mayoritariamente son noticias basura sobre series y películas, recetas de comida con IA y contenido reciclado de años anteriores.

3- ¿Qué medios están enfrentando nuevos modelos de negocios para sostener sus operaciones y mantener el nivel del periodismo? ¿Cómo?

Relámpago

Google actualizó Gemini 2.5 y Pro dejó de estar en vista previa y ya se puede usar. También pasa lo mismo con las versiones livianas, ideales para incorporar en aplicaciones y poder elegir los presupuestos de razonamiento y manejar costos bajos.

China sigue adelante y MiniMax lanzó un nuevo modelo llamado M1 que tiene un contexto de un millón de tokenes y buenas habilidades, las suficientes para crear un “clon de Netflix”.
Se puede probar el nuevo modelo de IA Krea, el Krea 1, en esta web con resultados que prometen no tener “aspecto de IA”. (Está buena, pero le cuesta mucho trabajar con textos)

Se informó que Apple coqueteó con asociarse o incluso comprar Perplexity.
Para no irnos de Perplexity, su navegador Comet ya está en beta para algunos usuarios con Windows, si lo llego a probar les voy a contar qué me parece.

Los GPTs personalizados ahora pueden usar cualquier modelo que tenga acceso la cuenta, así que a modificar prompts para sacarle el máximo provecho. ¿Les interesa tener acceso a GPTs personalizados por mi equipo para medios y periodistas?

WormGPT, una herramienta de IA usada para cometer ciberdelitos recibió una masiva mejora y ahora internet es un poco más peligrosa.

El modelo R1 actualizado de DeepSeek sigue arriba en desarrollo de código con el de Google y el de Anthropic. Yo, por mi parte y como menciono más abajo en “qué estoy usando” probé todas y estoy full esta semana con o3, así que sepan disculparme…

ElevenLabs lanzó 11ai, un nuevo asistente interno de voz que se conecta con Claude para ejecutar tareas.

Hay publicaciones que hablan sobre que Reddit está evaluando incorporar “pruebas de humanidad” en sus cuentas para que mediante el escaneo del iris puedas demostrar que sos humano. La proveedora del servicio sería una empresa del fundador de OpenAI.
Microsoft, que cada vez se parece menos a Tío Rico, presentó Mu un modelo pequeño con recursos de agente para las PCs con Windows Copilot +.

En el canal de YouTube de Fopea publicaron varias de las charlas de su último congreso, varias enfocadas en IA y periodismo.

ChatGPT Record, la herramienta de OpenAI para grabar reuniones está disponible para algunas de sus cuentas de pago y por ahora solo en iOS.
Google liberó un nuevo modelo, Magenta RealTime, que sirve para crear música en tiempo real y en local.
Hay que estar atentos a los SEAL, los MLL que mejoran su “visión del mundo”.

Qué estoy usando

En esta sección de cierre te cuento qué herramientas estoy usando en este momento porque, desde mi visión y uso, me da los mejores resultados (por respuesta o por costos).

Es algo súper íntimo y pueden no estar de acuerdo, pero creo que es una manera interesante de no solo decir “existe esto” si no “yo lo uso así” (o no).

Texto: mis GPTs personalizados y sino o3 (plan plus), Redacta.Pro (de pago). Para aplicaciones (o sea con API) 4o-mini y algunas con 4.1o.

Video: por ahora nada.

Audio: Elevenlabs (Pago), Adobe Audition (Pago) y NotebookLM (free).

Imágenes: GPT-4o (Pago) e Ideogram (gratis).

Programación: Gemini 2.5 Pro y full ahora o3 + o4 mini.

Buscador: Deep Research (OpenAI plus).

Música: Suno.