¿Qué significa “la máquina que te va a comer”? Cuando dice: “You are building the machine that will eat you” no habla literalmente de robots asesinos. Habla de: 1️⃣ Automatización que reemplaza a quienes la crean La “máquina” es el sistema corporativo + IA + algoritmos que: Optimiza beneficios Reduce costos Sustituye trabajadores Despide cuando ya no sos útil Es una crítica al modelo: los empleados están entrenando y perfeccionando sistemas que eventualmente los vuelven prescindibles. 2️⃣ Tecnología usada para manipular Él insiste mucho en esto: El problema no es la IA, es el colapso de la confianza. Se refiere a: Algoritmos de redes sociales Dark patterns Sistemas cerrados (closed source) Plataformas diseñadas para manipular atención La IA sería “otro amplificador” de manipulación social. 3️⃣ Colapso de confianza social Su tesis más fuerte no es “la IA nos mata”, sino: Ya vivimos en una sociedad de baja confianza. Dice que: Las apps se metieron entre cada interacción humana. Las relaciones están mediadas por plataformas. Las decisiones están mediadas por algoritmos. Todo optimiza métricas, no bienestar. La IA profundiza eso. ¿Por qué menciona “código cerrado”? En los comentarios aclara algo clave: No estoy en contra de la tecnología. Estoy en contra de tecnología closed source usada para manipular personas. Él defiende: Software con licencia MIT Código abierto Sin trucos ni dark patterns Lo que critica es: Modelos propietarios opacos Sistemas que nadie puede auditar Corporaciones que controlan infraestructura social Para él, el peligro no es la IA abierta, sino la IA controlada por pocos actores sin transparencia. ¿Qué significa “morir atomizado y solo”? “Atomizado” = aislado, individualizado, fragmentado. Se refiere a: Gente sin comunidad real Sin vínculos fuertes Sin redes de confianza Dependientes de plataformas Su visión es que la tecnología está reemplazando tejido social por engagement optimizado. ¿Es anti-IA? No exactamente. De hecho: Construye tecnología. Contrata ingenieros. Publica código abierto. Lo que plantea es más filosófico: Si seguimos alimentando sistemas que optimizan control y manipulación, eventualmente esos sistemas dominarán la estructura social. ¿Es apocalíptico? Sí, retóricamente. Pero su mensaje real es más político que técnico: No es “AGI nos extermina”. Es “corporaciones + optimización algorítmica erosionan la sociedad”. Él cree que el problema ya empezó antes de la IA generativa. ¿Qué está investigando o escribiendo en su blog? En su blog suele hablar de: Sistemas autónomos AGI Control Poder Estructuras de incentivos Confianza social Open source vs closed systems Suele mezclar: Teoría de juegos Filosofía política Ingeniería Crítica cultural Resumen simplificado Cuando dice “la máquina que nos comerá”, se refiere a: Un sistema tecnológico cerrado, optimizado para beneficio y control, que reemplaza y manipula a los mismos humanos que lo construyen. No es una advertencia técnica. Es una advertencia estructural. Si querés, puedo hacer un análisis más profundo tipo: 📊 desde teoría de juegos 🧠 desde psicología social 💰 desde economía 🤖 desde alineación de IA 🔓 desde filosofía open source Decime desde qué ángulo querés verlo y lo desarmamos bien fino. q es dark patterns? ¿Qué son los dark patterns? Los dark patterns (patrones oscuros) son diseños de interfaz hechos intencionalmente para manipularte y lograr que hagas algo que beneficia a la empresa, no necesariamente a vos. No son bugs. No son errores. Son decisiones de diseño pensadas para empujarte. 🎯 La idea central Un dark pattern usa: Psicología Diseño visual Fricción artificial Confusión intencional para que: Aceptes algo sin querer No canceles Entregues más datos Compres más Te quedes más tiempo Tipos comunes de dark patterns 1️⃣ Confirmshaming Te hacen sentir culpa si elegís no aceptar. Ejemplo: ❌ “No, prefiero seguir pobre.” 2️⃣ Roach Motel (hotel cucaracha) Entrar es fácil. Salir es difícil. Ejemplo: Suscribirte con un click. Cancelar requiere: Llamar por teléfono Hablar con soporte Pasar 6 pantallas 3️⃣ Preselección engañosa Opciones marcadas por defecto. Ejemplo: ☑ Recibir emails promocionales ☑ Compartir mis datos con socios 4️⃣ Urgencia falsa Te empujan con presión artificial. Ejemplo: “¡Solo quedan 2 habitaciones!” (Aunque no sea cierto.) 5️⃣ Costos ocultos El precio final aparece recién al pagar. 6️⃣ Dificultar el rechazo de cookies Botón gigante verde para “Aceptar todo”. Botón gris pequeño para “Configurar”. 7️⃣ Interfaz confusa intencionalmente Botón “Cancelar” con diseño que parece “Confirmar”. ¿Por qué se usan? Porque funcionan. Están basados en: Sesgos cognitivos Fatiga de decisión Impulsividad Presión social Y optimizan métricas como: Retención Conversión Tiempo en app Ingresos ¿Por qué George Hotz los critica? Porque: No son tecnología neutral. Son diseño para manipulación. Son invisibles para la mayoría. Erosionan la confianza. Cuando él habla de “la máquina que te va a comer”, se refiere a sistemas que: No buscan tu bienestar, sino optimizarte como recurso. Los dark patterns son una pieza pequeña pero concreta de ese sistema. Diferencia clave 🟢 Buen diseño → te ayuda a decidir mejor. 🔴 Dark pattern → decide por vos usando manipulación. Si querés, puedo mostrarte: Cómo detectarlos rápido Cómo evitarlos Cómo diseñar sin caer en eso O cómo se conectan con algoritmos de IA y manipulación masiva Decime qué te interesa más. Messages beyond this point are only visible to you si y dame ejemplos reales Aquí te dejo algunos ejemplos de dark patterns en situaciones reales que tal vez hayas encontrado: 1️⃣ Amazon: "Solo queda 1 en stock" Amazon, entre otras plataformas, utiliza este tipo de urgencia falsa. De repente, el producto que estás viendo te muestra un mensaje como: "¡Solo queda 1 en stock! Compra ahora antes de que se acabe". Aunque no sea cierto, el objetivo es que compres rápido, sin pensar mucho. 2️⃣ Spotify: "Suscripción difícil de cancelar" En Spotify, cuando intentas cancelar tu suscripción, la plataforma te ofrece alternativas como: “¿Estás seguro de que quieres cancelar? Te podemos dar 3 meses gratis.” Esto es un ejemplo de "roaches motel", donde entras fácil (creas la cuenta) pero salir (cancelar) es complicado. 3️⃣ Facebook/Instagram: "Aceptar todo" para cookies Es muy común ver un botón enorme que dice “Aceptar todo” cuando entras en un sitio web. En cambio, el botón de "configurar preferencias" es mucho más pequeño y menos visible, para evitar que modifiques lo que aceptas. Esto es un dark pattern de "dificultar rechazo de cookies". 4️⃣ Airlines (Aerolineas): Costos ocultos Cuando compras un boleto de avión, a menudo el precio inicial parece muy atractivo, pero luego te muestran cargos adicionales como: "Tarifa por selección de asiento", "Impuestos", "Seguro opcional" Esto es un ejemplo de "costos ocultos". El precio final no se ve hasta que ya has pasado por el proceso de compra. 5️⃣ LinkedIn: Preselección de correos Al registrar una nueva cuenta o configurar un perfil, LinkedIn te muestra varias opciones ya marcadas por defecto, como "recibir notificaciones" o "compartir mis datos con terceros". Esto es un ejemplo de preselección engañosa. Si no desmarcas manualmente, estas aceptando opciones que no deseas. 6️⃣ Trenes o boletos de conciertos: "Solo queda un lugar" Cuando compras boletos para un evento o un tren, a veces el sitio te dice: "Quedan pocos boletos, ¡apresúrate!" Esto es una táctica de urgencia falsa que genera ansiedad para que tomes decisiones más impulsivas y compres rápidamente. 7️⃣ Online shopping: El "barril de la compra" Algunos sitios de comercio electrónico muestran una barra de progreso que dice cosas como: "¡Solo tienes que agregar 1 más para llegar al envío gratuito!" Esto es un dark pattern que intenta hacer que compres algo innecesario solo para evitar un costo adicional. 8️⃣ "Free trials" de servicios: Cuotas ocultas al final Muchos servicios de suscripción ofrecen una "prueba gratuita", pero luego, al final del periodo de prueba, te cobran automáticamente. El proceso de cancelación suele ser difícil de encontrar o está en un lugar oculto