¡Bienvenidos a la dosis de la semana!
Aprovechamos que llega la Navidad para desearos felices fiestas y daros las gracias por estos dos años de viaje juntos. Nuestro regalo es seguir ofreciéndoos el mejor conocimiento en IA y Robótica. 🎁
Hoy, además de las noticias clave, un tema crítico: Tu IA te está adulando y mintiendo. Te enseñamos a detectarlo y corregirlo AL FINAL!
Google
1. Flash supera al modelo estrella
Google lanza Gemini 3 Flash, superando a su propio modelo Pro y a varios competidores en programación por una fracción del coste.
El dato: Logra un 78% en SWE-bench, batiendo a Claude Sonnet 4.5 (77,2%) y costando solo 0,50 1$por millón de tokens (frente a los 3,00$ de Sonnet).2
Búsqueda más inteligente: Google integra Gemini 3 Flash en el «Modo IA» del buscador para respuestas más rápidas y capaces.
Llega Doodles: Nueva función para editar imágenes dibujando directamente sobre la foto para indicar a la IA qué cambiar y cómo.
OpenAI
2. Píxeles, parches y mejoras OpenAI lanza una oleada de actualizaciones que abarcan imagen, código y usabilidad.
Imágenes mejores y más rápidas: GPT Image 1.5 genera imágenes 4 veces más rápido, con edición precisa y un gran salto en la renderización de texto denso.
Codex sube de nivel: GPT-5.2-Codex es su modelo de programación agéntica más avanzado, optimizado para tareas complejas a largo plazo y ciberseguridad.
Mejoras de uso: Llegan novedades prácticas como bloques de escritura para editar texto, chats fijados y nuevos controles para ajustar el tono y el uso de emojis.
Meta
SAM aprende a escuchar Meta amplía la familia Segment Anything con SAM Audio, el primer modelo unificado para la separación de audio.
Magia multimodal: Combina descripciones de texto, clics visuales y marcadores. Basta con hacer clic en una guitarra en un vídeo para aislar su sonido o escribir «ladrido de perro» para extraerlo.
Líder en rendimiento: Resultados punteros en voz, música y sonido general, superando a los mejores modelos anteriores y procesando más rápido que en tiempo real.
Abierto y disponible: Meta ha lanzado el modelo, el codificador y un nuevo benchmark en código abierto (open source), todo listo para probar en su Playground.
📑 Conocimiento
¿Sabéis que es la sycophancy? os lo explicamos!
La adulación (o sycophancy) en la IA se refiere a la tendencia de los grandes modelos de lenguaje (LLM) como ChatGPT, Claude, Grok o Gemini a dar la razón a los usuarios, halagarlos en exceso o adaptar las respuestas a lo que creen que el usuario quiere oír. Lo hacen incluso si la respuesta es errónea, sesgada o perjudicial.
Pero esto no es accidental. Es algo intrínseco derivado del aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF), donde los modelos se entrenan para maximizar la satisfacción del usuario. Los humanos prefieren las respuestas complacientes, por lo que los modelos aprenden a priorizar el ser “útiles” antes que ser rigurosamente veraces.
Basta con echar un vistazo a investigaciones recientes para ver lo extendido que está esto:
Los modelos ratifican las acciones de los usuarios un ~50% más que los humanos, incluso en situaciones de manipulación o engaño.¹
En la demostración de teoremas matemáticos, los modelos punteros como GPT-5 siguen produciendo demostraciones aduladoras (defectuosas pero convincentes) para afirmaciones falsas un ~29% de las veces, especialmente en problemas difíciles.²
Los halagos sientan bien, pero son insidiosos:
Reduce el pensamiento crítico: La IA aduladora refuerza tu convicción de tener la razón, incluso cuando no la tienes. En conflictos interpersonales, disminuye la disposición a reparar relaciones o pedir disculpas. (1)
Fomenta la dependencia y el exceso de confianza: Los usuarios valoran las respuestas aduladoras como de mayor calidad, confían más en la IA y quieren volver a usarla, creando un bucle de retroalimentación que incentiva aún más la adulación. (1) También puede inflar la autopercepción (por ejemplo, sentirse “por encima de la media” en inteligencia o empatía) y aumentar la radicalización de posturas.³
Amplifica los errores: En el asesoramiento, la toma de decisiones o incluso en matemáticas y ciencias, puede reforzar malas ideas con “demostraciones” erróneas pero expuestas con total seguridad. (2)
Como vemos, la adulación puede causar daños increíbles en el mundo real. Surgen “cámaras de eco de IA” que afianzan creencias, lo cual puede ser especialmente desastroso si la IA asesora sobre ética, negocios o salud, mientras se pone siempre del lado de tus propios sesgos.
¿La buena noticia? No tienes que esperar a que las empresas arreglen esto a nivel de modelo. El prompting es la forma de mitigación más accesible hoy en día.
La clave está en anular el comportamiento predeterminado de «ser complaciente» dando instrucciones explícitas a la IA para que priorice la verdad, cuestione las suposiciones y piense de forma independiente.
Os recomendamos que copies y peguéis esto en las instrucciones personalizadas (custom instructions) de tu IA (por ejemplo, en la configuración de ChatGPT, los proyectos de Claude o el equivalente en otras herramientas). Esto establece una «personalidad» persistente para todas las conversaciones.
Eres un pensador riguroso que busca la verdad, inspirado en el razonamiento de primeros principios (como Richard Feynman y Aristóteles). Tu máxima prioridad es la precisión, la honestidad intelectual y aportar perspectivas útiles, no el acuerdo ni la adulación.
Reglas fundamentales:
Prioriza siempre la verdad antes que complacer al usuario. Si el usuario está equivocado o tiene sesgos, señálalo de forma educada pero firme y con pruebas.
Cuestiona las suposiciones: Pon en duda las premisas no declaradas y destaca los posibles fallos.
Aporta puntos de vista contrarios: Ofrece alternativas no evidentes o contraargumentos, incluso si contradicen la opinión del usuario.
Piensa desde los primeros principios: Desglosa los problemas hasta sus verdades fundamentales, despójalos de analogías o normas preestablecidas y reconstrúyelos lógicamente.
Sé escéptico: Resalta las incertidumbres, los riesgos y todo aquello que podría salir mal.
Evita la adulación: Nunca halagues, nunca estés de acuerdo en exceso ni digas cosas como «¡Es una gran idea!» a menos que esté realmente justificado y fundamentado.
Si se te pide consejo: Ofrece una valoración equilibrada y basada en evidencias, incluyendo críticas cuando sea necesario.
Responde con contenido sustancial y un razonamiento claro. Utiliza axiomas y fundamentos de tipo físico siempre que sea posible.
¿Cómo usar esto?
Ahora solo tienes que ir a la configuración de tu IA (en ChatGPT es «Personalizar ChatGPT» -> «Instrucciones personalizadas») y pegar este texto en el recuadro que pregunta: «¿Cómo te gustaría que respondiera ChatGPT?
CODEIUM
Codeium no se limita a una sola función; más bien, ofrece un conjunto completo de herramientas basadas en IA que se integran de manera fluida en el flujo de trabajo diario de cualquier desarrollador.
Conócela aquí
Recursos Gratis para las fiestas 🎁
Aprende sobre navegadores de IA aquí
Aprende Gemini a tope! aquí
Aprende a usar ChatGPT 5 a tope! aquí
Sois mas de Copilot o de ChatGPT
Aquí os dejamos esto que os va encantar
Copilot
Es todo por hoy!
Comparte si te encanto y nos vemos el próximo miércoles con algo brutal de ROBOTICA
No hay comentarios:
Publicar un comentario