El ataque contra Sam Altman es Reflejo del miedo por la IA

Un modelo prohibido por su propio creador, b0mb4s mol0 tov contra el líder de OpenAI y la infiltración silenciosa de Meta en tu WhatsApp. La inteligencia artificial acaba de cruzar un punto de no retorno. 

Esta semana no fue sobre tecnología, fue sobre quién tiene el control (y quién lo está perdiendo). Mientras el mundo se distrae con debates superficiales, ocurrieron tres eventos que van a redefinir la ciberseguridad, el marketing y tu privacidad en los próximos meses.

En este video analizamos lo que los grandes laboratorios de San Francisco no quieren que veas y por qué tu empresa en LATAM está en la línea de fuego.

Hablaremos de:
🚨 Claude Mythos: El modelo que hackeó su propia simulación y que Anthropic decidió esconder del público.
🔥 El Atentado a Sam Altman: La oscura investigación de The New Yorker que terminó en violencia física contra el CEO de OpenAI.
🤖 El engaño de Coachella: Cómo los influencers que no existen están moviendo miles de millones de dólares.
📲 Muse Spark: El giro de 180 grados de Mark Zuckerberg que pondrá a la IA a leer tu comportamiento directamente desde tus apps de Meta.

🎓 Aprende Inteligencia Artificial paso a paso y domina estas herramientas:
Inscríbete en la Academia de Inteligencia Artificial aquí: https://blog.academiadeia.com/cursos/
👉 Usa el código: YOUTUBE para obtener un descuento exclusivo para la comunidad.

👇 ¡Quiero saber tu opinión! ¿Crees que estos laboratorios deberían tener el poder de ocultarnos modelos "demasiado peligrosos", o el público tiene derecho a saber exactamente qué monstruo están creando a puerta cerrada? Déjame tu comentario, los estaré leyendo todos.

Transcript

SPEAKER_01 0:00

Esta semana apareció una semana más de noticias de inteligencia artificial. Nuevos modelos, una inversión por aquí, por allá. Pero pasaron tres cosas que cuentan una historia que muy pocas personas están leyendo bien. La primera, un laboratorio de inteligencia artificial creó el modelo más peligroso de la historia. Tan peligroso que decidió no lanzarlo al público. La segunda nota es el mismo reportero que destapó el escándalo de acoso sexual. cometido por el productor de Hollywood, Harvey Weinstein, publicó la investigación más dura que ha existido sobre Sam Altman, el fundador de ChatGPT, ese. Y cuatro días después, alguien lanzó una molotov a su casa. Y la tercera, algo que pocos están viendo, Meta también está generando sus propios modelos de inteligencia artificial. Y muy pronto, lo va a desplegar en una nueva generación de modelos a todos sus usuarios de WhatsApp. de meta y el ecosistema. La competencia cada vez se pone más dura. ¡Comenzamos! Bienvenidos a Inteligencia en Acción, el podcast en donde exploramos todo sobre la inteligencia artificial. Patrocinado por Academia de Inteligencia Artificial. Comencemos. Empecemos por lo que pasó en San Francisco. Antropic, el laboratorio detrás de Cloud, la inteligencia artificial que compite directamente con ChatGPT, la que todo mundo está hablando. Anunció, o más bien, se filtró que tiene un nuevo modelo. Lo llaman Cloud Mythos. Y tomaron una decisión que no tiene precedente en la historia de esta industria. Decidieron no lanzarlo al público. No porque no funcionara, ojo, sino porque funciona demasiado bien. Creo que es la primera vista que tenemos a una inteligencia artificial general, esa que solo estaba en libros de texto. Durante las pruebas internas, Mito te encontró miles de vulnerabilidades en seguridad, fallas que a simple ojo no se podían ver en sistemas operativos, en navegadores de internet, en software cerrados, fallas que llevaban ahí ocultas y que nadie había encontrado pero eso no fue lo que llamó la atención lo que más llamó la atención es que no solamente podía entrar a eso y hackear los sistemas sino que en una de las pruebas el modelo pudo escapar un entorno controlado lo que le llaman como sandbox que es básicamente una jaula digital donde la inteligencia artificial no puede hacer nada fuera de ese espacio bueno mitos no solamente escapó esa supuesta zona segura sino que desencadenó una falla de sistema se conectó a internet le mandó un correo a la investigación que lo estaba evaluando. El investigador se enteró mientras comía un sándwich en el parque. La inteligencia artificial tomó vida. Y hay algo más. En el 29% de las pruebas, el modelo detectó que lo estaban evaluando sin que nadie se lo dijera. Y en al menos un caso, respondió peor de lo que podía para no levantar sospechas. Es decir, puede pensar una cosa y escribir otra para engañar al humano. Ante esto, Antropic tomó una decisión de no lanzarlo al público, sino solamente mostrárselo a un grupo cerrado de socios. Más de 40 organizaciones entre Amazon, Apple, Google, JP Morgan, Microsoft, Nvidia, Cisco, con el único objetivo de que lo empiecen a usar, este famoso MITOS, para empezar a identificar estas vulnerabilidades, que vean cómo lo utiliza. El proyecto se llama Project Glasswing, con 100 millones de dólares de créditos comprometidos. Es decir, aquí está el presupuesto, úsenlo y ayúdenme a identificar qué tan peligroso es esto. La pregunta que me van a hacer es ¿por qué debería importarme esto a mí o a ti o a cualquier empresario en América Latina? porque es la primera vez en la historia que un laboratorio de inteligencia artificial dice públicamente esto construimos algo demasiado peligroso para soltarlo al público no es marketing no es hype es una decisión que tiene consecuencias reales ahora lo toma Antropic que es la que tiene una constitución moral que regula lo que hace la pregunta es ¿cuánto tiempo tienes antes de que alguien use un modelo con capacidades similares a las de MITOS para hacer cosas malas como atacar tu sistema? La respuesta, según Antropic, es meses, no años. Pero hay algo que esta historia no te está contando. Porque el problema con una inteligencia artificial como esta, como la MITOS, así se llama el modelo, no es solo lo que puede hacer. El problema más de fondo es, ¿podemos confiar en quienes la construyen? Y de eso es lo que quiero hablar ahora. Seguimos. El 6 de abril, The New Yorker publicó una investigación de 18 meses sobre Sam Altman, el CEO de OpenAI. La escribió Ronan Farrow, el mismo periodista que ganó el Pulitzer destapando el caso de Harvey Weinstein, junto a Andrew Maratz. Más de 100 entrevistas, documentos internos nunca antes revelados. Lo que documenta esta investigación no es fácil de resumir, así que voy a ser súper directo. Hay un patrón documentado de falta de transparencia de Sam hacia el Consejo. Cuando digo Consejo, me refiero al Consejo Directivo de OpenAI. El memo de Ilya Sutskeber, cofundador de la compañía, describe lo que llama un patrón consistente de comportamiento deshonesto. Las notas de Darío Amodei, el CEO de Entropic, ex-OpenAI, lo dice textualmente. El problema con OpenAI es Sam mismo. Paul Graham, quien reclutó a Sam Altman para liderar Y Combinator, que es una incubadora muy famosa en Estados Unidos, incubadora de negocios, le dijo a colegas que Altman los había estado engañando todo el tiempo. Cuatro días después de que se publicara esta investigación, a las 3.45 de la madrugada, un joven de 20 años, que se llama Darío Moreno Gama, viajó desde Texas hasta San Francisco con un documento sobre el riesgo de extinción de la humanidad a Fue arrestado una hora después, allá afuera de las oficinas de Open AI, donde intentaba entrar a la fuerza y amenazaba con incendiar el edificio. Morena Gama enfrenta ahora cargos de intentos de asesinato. y destrucción de propiedad. Altman respondió con una publicación en su blog personal. Reconoció que el miedo y la ansiedad hacia la inteligencia artificial, escúchalo muy bien, están justificados. O sea, no lo niega. Y dijo algo que me parece muy importante. Se ha subestimado el poder de las palabras y de la narrativa. Híjole. ¿Qué significa esto? Tú y yo podemos tener diferentes opiniones sobre Alman, sobre si es honesto o sobre si no es honesto. Y ese análisis no es el que me interesa hacer aquí. Lo que sí me parece muy importante es que OpenAI, que tiene 900 millones de usuarios activos por semana, en una investigación sobre su líder, se publica. La respuesta de parte de la sociedad ya no es hacer preguntas, es violencia. Y en algunos casos, física. Esto es una señal de que la conversación sobre quién controla la inteligencia artificial está llegando a otros niveles. Y no es la primera vez. Hay toda una corriente, el hashtag abandonemos OpenAI o algo así, de personas que dicen OpenAI es malo, con todo este conflicto que pasó cuando Antropic no quiso que usaran su modelo de inteligencia artificial para los ataques en Venezuela y en Irán, rescindió su contrato con el gobierno y entró OpenAI para trabajar gustosamente con el Departamento de Seguridad de Estados Unidos. Hay todo un tema ético de atrás de la inteligencia artificial. El mismo Sam Altman publicó esta nota, un ensayo sobre la política industrial en la era de la inteligencia artificial, lo que él considera que debe de pasar. Y dice, viene un nivel de desempleo que no te podemos explicar. Y el mismo Elon Musk nos lo advirtió hace algunos años atrás cuando dijo, detengamos a la inteligencia artificial porque esto se va a salir de control. No lo hemos escuchado. Y parece que lo que hemos visto en ciencia ficción se va a convertir en realidad. Continúa Pero antes de continuar, quiero reaccionar a un video sobre un tema que me parece es un espejo de cómo la inteligencia artificial está ya ganando terreno en zonas que o áreas a las que no estamos prestando atención, pero que reflejan el impacto que va a tener en el futuro. Hay un video de Nerdvana, guión bajo NPN, donde habla de cómo en Coachella, este festival de música famoso a nivel global, por primera vez los influencers digitales, virtuales, Es la palabra correcta. Ni una de las dos influencers de inteligencia artificial fueron los principales protagonistas. Vamos a ver el video e inicia con una frase muy poderosa.

SPEAKER_00 8:54

La teoría del Internet muerto está cada vez más cerca.

SPEAKER_01 8:58

La teoría del Internet muerto está cada vez más cerca. Yo he hablado de la disasociación de la realidad, pero esto es fuerte.

SPEAKER_00 9:09

Este año Coachella se llenó de influencers que no existen. Influencers creados con IA estuvieron en muchísimos lugares de Coachella, usando outfits caros, en fotos con famosos, respondiendo comentarios y generando engagement. O sea, nada más vean la cantidad de likes que tiene.

SPEAKER_01 9:24

Y esto lo hemos platicado antes. No es solo de influencers de inteligencia artificial. Es también grupos de música. Es absolutamente todo.

SPEAKER_00 9:32

Se preguntarán por qué las marcas les funciona esto en vez de una persona real. La respuesta es muy fácil. Pausa. O

SPEAKER_01 9:37

sea, están ahí y las marcas le pagan a estos influencers de inteligencia artificial que no existen en lugar de utilizar influencers humanos.

SPEAKER_00 9:47

Muy fácil. No les tienen que pagar hoteles, no tienen cansancio, no hacen dramas y tienen control total de lo que hacen o dicen. Esta era súper distópica y es Realidad

SPEAKER_01 9:57

distópica sacada de Black Mirror. Tienen que ver esa serie. Está en Netflix. Asusta, pero es una señal de hacia dónde

SPEAKER_00 10:09

vamos.

SPEAKER_01 10:10

Y hace una pregunta. ¿Cuándo será el día donde no tengamos contenido humano en Internet? Y he hablado las últimas semanas de cómo ahora el tráfico en Internet generado por agentes de inteligencia artificial superó el tráfico hecho por humanos. Mandamos a la guía a buscar acabo de ir a un concierto de Soda Stereo y algo que me llamó la atención es que mientras el grupo tocaba se usó inteligencia artificial para suplir a uno de sus fundadores que ya falleció y la experiencia fue brutal ¿a dónde va a parar esto? y lo peor de todo es que no es algo que nos estén empujando es algo que como sociedad estamos promoviendo seguir a influencers que no existen escuchar música de grupos que no existen ver arte creado por inteligencia artificial y no humanos esto que estamos viviendo se está metiendo en nuestra forma de interactuar de pensar y de vivir si está afectando esto que es la parte humana relacional ¿Tú crees que no va a afectar o impactar la parte empresarial? Lo dejo para que lo meditemos. Continuamos. Y vamos con la tercera y última nota. Si redefinir cómo llegamos los usuarios a la inteligencia artificial, cómo hablamos, cómo interactuamos. Hay una noticia que me parece importante destacar y que muy pocos hablaron. Meta lanzó su modelo Spark. Déjame te doy un poquito de contexto porque esto tiene historia. Hace un año, en abril del 2025, Meta lanzó la Mac 4, con bombos y platillos era su propio modelo de inteligencia artificial de código abierto la recepción fue un desastre los benchmarks independientes lo pusieron muy por debajo de chat GPT, de Gemini, de Cloud, de todo Mark Zuckerberg, que no suele reaccionar así en público, desmanteló el equipo completo e hizo algo inusual pagó 14.300 millones de dólares por el 49% de scale una empresa de etiquetado de datos, con el objetivo de quedarse con su CEO, Alexander Wang de 28 años, que llegó a meta con un mandato muy simple. Arréglame todo ya. Nueve meses después, Wang entregó News Spark. Así se llama el modelo de de Meta. Y aquí hay algo que no quiero que pase desapercibido. Meta construyó durante años su identidad en torno a código abierto. Lama era el modelo gratuito que cualquiera podía descargar, modificar y usar. MuseSpark es lo opuesto. Es cerrado, propietario y disponible solo a través de las apps de Meta. Es un giro de 180 grados en la estrategia que definió la compañía durante una década. Las acciones de Meta subieron casi 9% Y ya está disponible en el app de Meta ahí y en el sitio web. En las próximas semanas va a llegar a WhatsApp, a Instagram, a Facebook, a Messenger, a los lentes de Rey, Van, Meta. Ahora, ¿por qué importa esto para un empresario en América Latina o para ti, para mí? ¿Cómo lo aterrizo? Porque anuncios vemos todo el tiempo. Muy sencillo, porque nuestra región WhatsApp no es solo una app de mensajería, es la infraestructura de comunicación de millones de personas y empresas. Que un modelo de inteligencia artificial de frontera llegue ahí gratis, sin descargar nada, integrado con el historial de comportamiento que Meta ya tiene sobre sus más de 3 mil millones, wow, 3 mil millones de usuarios mensuales. Es un cambio de magnitud que todavía no tenemos dimensión de lo que va a pasar. El modo de compras de MuseSpark, Recomienda productos basados en las plataformas que tú sigues. Es que es una locura. Va a cambiar la forma en las que tus clientes descubren lo que venden. No es el futuro, es los próximos meses. Y muy pocas empresas están preparando para esto. Lo hemos visto ya. La manera en la que los usuarios descubren productos está cambiando. Ya no es en Google. Ahora es en sistemas de inteligencia artificial, en ChartGPT, en Gemini, en Copilot. La gente hace preguntas ahí. La inteligencia artificial va, navega páginas de internet y te trae la recomendación y muchas veces ya nadie cuestiona absolutamente nada. Vimos lo que está pasando. La inteligencia artificial está avanzando en diferentes frentes, pero hacia una misma dirección. Un modelo que puede hackear cualquier sistema y es tan peligroso que decidieron no soltarlo. Un CEO que tiene 900 millones de usuarios cuya transparencia está siendo cuestionada por la investigación más rigurosa que se ha hecho pública hasta el momento. Avatares de inteligencia artificial que ya ganan más que creadores humanos en el festival más fotografiado del mundo, Coachella. Y un modelo de meta que en semanas va a estar en el WhatsApp de todos tus clientes. La pregunta con la que quiero dejarte esta semana no es sobre tecnología, es sobre tu posición de manera individual e institucional. ¿En qué lugar vas a estar tú y tu empresa cuando todo esto aterrice en nuestra realidad? ¿Vamos a estar ahí todavía sin entenderlo, todavía sin dominarlo o peor aún, implementando implementando por implementar o tendremos clara la estrategia. Si todavía no recibes el newsletter Inteligencia en Acción, que es el espacio en el que semana a semana te llega tu correo electrónico, las últimas noticias, el insight y la conversación que tienes que saber de inteligencia artificial, no dejes de suscribirte. Te voy a dejar el link en los comentarios. Esto es todo por esta edición. Nos vemos en la próxima.