Alucinaciones de IA durante el desarrollo: por qué pasan y la solución

Gentleman Programming | Alucinaciones de IA | Alucinaciones de IA durante el desarrollo: tu agente escribe código muy bien, pero a la hora de revisarlo te miente, se desvía y no sabe verificar de verdad. Te explico por qué pasa y la solución completa. En este video, formato curso y sin edición para que veas el día a día real, atacamos el problema de fondo: un agente que es autor, revisor y juez de su propio trabajo. Vemos las problemáticas una por una: loops infinitos de review, findings persuasivos pero falsos, sycophancy y autoaprobación, hallazgos que desaparecen, el fix que toca 10 cosas y el clásico "ya lo revisé, confiá". Y después la solución con conceptos de ingeniería de verdad: event sourcing, content-addressed storage con hashes como huella digital, fail-closed (todo lo que no se prueba se rechaza), separación de deberes con autor, revisor, refutador y validador, verificación adversarial y presupuestos acotados. Todo aterrizado en el flujo completo: el orquestador que clasifica el riesgo, los lentes 4R, el ledger congelado, el día del juicio con dos jueces independientes, el refutador que exige evidencia, los gates de pre-commit a pre-release y el receipt final. Y sí, todo esto está entrando en gentle-ai de forma orgánica para que no tengas que configurar nada. 📖 El libro gratis (con el curso completo adentro): https://the-amazing-gentleman-programming-book.vercel.app 💻 gentle-ai: https://github.com/Gentleman-Programming/gentle-ai ❤️ Sponsors de GitHub: [LINK GITHUB SPONSORS] ⏱️ TIMESTAMPS: 0:00 Bienvenida: curso de code review por IA 0:37 El libro gratis y el curso completo 1:18 Hace 3 días que no duermo por este problema 1:37 Autor, revisor y juez de su propio trabajo 2:50 Este video va sin edición 3:22 Loops infinitos de review 3:54 Findings persuasivos pero falsos 4:13 Sycophancy y autoaprobación 4:37 Findings que desaparecen 4:56 El fix que toca 10 cosas y el "ya lo revisé, confiá" 5:22 Amnesia de contexto 5:41 Concepto: event sourcing 6:09 Concepto: content-addressed storage 6:57 Concepto: fail-closed 7:36 Separación de deberes: autor, revisor, refutador, validador 8:00 Verificación adversarial: dame evidencia 8:25 Racionalidad acotada: el presupuesto 8:43 El flujo completo: apply y post-apply 9:21 El orquestador clasifica: low, medium, high 10:35 run review start: la foto y la transacción 11:24 Los barridos y el ledger congelado 12:33 El día del juicio: dos jueces independientes 13:41 Evidencia: determinista, inferida o insuficiente 14:55 El refutador: corroborado, refutado o inconcluso 16:06 La corrección acotada: arreglá solo esto 16:51 Hash nuevo y evidencia de runtime 17:34 El validador del delta 18:18 El receipt: el recibo final 19:27 Los gates: pre-commit, pre-push, pre-release 20:16 Fast path en main: hash más CI verde 21:12 Las máquinas de estado 22:26 Dónde se guarda cada cosa 23:17 El gate en detalle: pasa, invalida o escala 24:13 Todo esto gratis en gentle-ai 24:42 Hacer las cosas bien ahorra tokens 25:44 22 sponsors: gracias de corazón 26:53 Cierre ▬ LINKS DE INTERÉS ▬ 🤑 DESCUENTOS ══════════════════════ CodeCrafters: https://app.codecrafters.io/join?via=GentlemanProgramming Linsoul: https://www.linsoul.com/GentlemanProgramming 📺 STREAM ══════════════════════ Twitch: https://www.twitch.tv/gentleman_programming 🎮 YouTube: https://www.youtube.com/c/GentlemanProgramming VODS en canal secundario 🥵: https://www.youtube.com/channel/UCIscmdXDtypp2zTzEEYxJwg Kick: https://kick.com/gentleman-programming 📺 REDES Y COSITAS 🫦 ══════════════════════ https://doras.to/gentleman-programming 💰 Collab 🤑 ══════════════════════ [email protected] 💻 Mi configuración de LazyVim ══════════════════════ https://github.com/Gentleman-Programming/Gentleman.Dots 🎬 EDITOR ══════════════════════ Email: [email protected] Discord: Cristian1812 #AlucinacionesDeIA #IA #CodeReview #AgentesDeIA #DesarrolloDeSoftware

Duración: 00:27:02
Publicación: 26 ago 2026, 16:47
Estado: published