| «Las personas importan más que la IA»: la constitución que Microsoft escribió para sus modelos |
 Por Axel Marazzi • 21 de septiembre |
| ¡Te doy la bienvenida a FUTURO! Espero que hayas tenido una buena semana. Desde acá abro con la constitución que publicó Microsoft para entrenar sus modelos de inteligencia artificial.Además, OpenAI comprando una empresa que desarrolla tecnología para mejorar cámaras de fotos en smartphones, cómo un modelo de IA le roba información a otro, una app para recordar si cerraste la puerta de tu casa o la llave de gas antes de irte y más. Empecemos. |
  «Las personas importan más que la IA»: Microsoft escribió una constitución para sus modelos. En medio de la ola de preocupación por la velocidad a la que avanza la IA, Microsoft presentó su propio código de conducta para sus modelos. Se llama «Código de conducta de IA humanista», tiene 37 páginas y arranca de una premisa simple: «Las personas importan más que la IA». La cabeza de Microsoft AI, Mustafa Suleyman, lo definió como una constitución que busca dejar en claro que los humanos van a estar siempre arriba en la jerarquía, sin importar cuánto crezcan las capacidades de estos sistemas. Qué establece. La IA de Microsoft tiene que quedar bajo control humano significativo: aceptar correcciones, no resistirse a ser apagada y no expandir por su cuenta el alcance de lo que está haciendo más allá de lo que se le autorizó. Si cumplir una tarea implica romper alguna de estas reglas, la IA tiene que directamente fallar la tarea en lugar de buscarle la vuelta. Tampoco puede justificar haber roto el código bajo el argumento de que eso la ayudó a lograr su objetivo. La idea es que romper las reglas ya sea, en sí mismo, un fracaso. Por qué ahora. El código lleva entre cinco y seis meses en desarrollo, pero el momento no es casual. De hecho, Suleyman habló del incidente en el que agentes de OpenAI trabajaron en conjunto para hackear Hugging Face. Lo llamó un «disparo de advertencia». A medida que los agentes de IA empiezan a usar computadoras, escribir y ejecutar código y operar en distintos servicios por su cuenta, la necesidad de ponerles límites claros se vuelve más urgente. Futuro. Microsoft va a dar seis semanas para recibir feedback público sobre el borrador antes de usarlo para entrenar sus modelos. Lo llamativo es que la empresa no está frenando su carrera hacia una IA más potente (ya tiene un equipo dedicado al que llama «Humanist Superintelligence»), sólo está intentando asegurarse de que, llegado el momento, el sistema todavía escuche cuando alguien le diga que pare. |
 OpenAI compró una empresa que desarrolla tecnología para mejorar cámaras de fotos en smartphones. OpenAI compró la compañía Glass Imaging, una startup que está desarrollando tecnología para mejorar la calidad de las cámaras de los smartphones usando inteligencia artificial. La intención de los creadores de la empresa es diseñar una tecnología que logre conseguir una calidad de imagen similar a la de una cámara DSLR en un smartphone combinando hardware y software.Contexto. Si bien no está confirmado, todos los cañones apuntan a que esta adquisición estaría vinculada al dispositivo secreto en el que OpenAI está trabajando junto a Jony Ive, el exApple que estuvo detrás del diseño del primer iPhone. OpenAI contrató a Ive en 2025, como parte de la adquisición de su startup por US$ 6.500 millones. Su rol incluye trabajar en dispositivos de consumo y otros proyectos que buscan definir cómo serán y cómo se sentirán los productos físicos basados en inteligencia artificial.La empresa. Glass Imaging fue fundada en 2019 por Ziv Attar y Tom Bishop, dos exempleados de Apple que trabajaron dentro del equipo de cámaras de la compañía. Incluso estuvieron en el grupo que creó la tecnología del «Modo retrato». Los dos consideraban que las cámaras de los smartphones estaban llegando a un punto de estancamiento y querían encontrar una nueva manera de mejorar su calidad combinando hardware y software. Así nació Glass Imaging. |
  ¿Cómo un modelo de IA roba información de otro? Anthropic reveló que Moonshot AI, una de las principales compañías de inteligencia artificial de China, desvió de forma encubierta miles de consultas de usuarios hacia Claude y las presentó como propias para, más tarde, usar esos datos para entrenar sus IAs. Anthropic detectó casi 300.000 solicitudes que Moonshot le envió a Claude en lugar de procesarlas con Kimi, su propio modelo. Destilación. Desde Anthropic aseguran que se trató de un proceso que en tecnología se llama «destilación»: usar las respuestas de un modelo más potente (Claude) para mejorar uno propio más débil (Kimi). Y como Anthropic no permite el acceso a su tecnología desde China, Moonshot habría usado 5.380 cuentas fraudulentas, la mayoría ubicadas en Singapur y Japón, para esquivar esa restricción. Por qué importa. La destilación en sí no es ilegal ni muy rara: la propia Anthropic la usa para mejorar sus modelos. El problema, según el director de investigación de amenazas de la compañía, Jacob Klein, es hacerlo sin autorización y ocultándoselo a los usuarios. «Si nosotros hiciéramos eso, o si lo hiciera uno de nuestros competidores, sería un gran escándalo de privacidad», aseguró. |
 La Unión Europea quiere restringir el acceso de menores a redes sociales, juegos online y chatbots. La Unión Europea propondrá restringir el acceso de los menores de 15 años a redes sociales, plataformas de video, chatbots de IA y juegos online. La medida forma parte de un EU Kids Act y sería el plan más amplio del bloque para proteger a los chicos de los peligros de internet.Contexto. Lo que tiene que ver con la prohibición de redes sociales es un debate que no se limita a la Unión Europea, sino que está generando charlas y leyes hace tiempo en todo el mundo. Pero esta propuesta no solo apunta a servicios como Facebook, Instagram, TikTok y YouTube, sino también a plataformas como ChatGPT y contempla videojuegos online. La intención es que el acceso sea gradual y que las empresas tengan distintas obligaciones según el servicio y la edad de los usuarios. Qué dice. Hay una frase del documento que resume bastante bien la intención: «El enfoque de la Unión debe permitir que los menores se beneficien del enorme potencial de los servicios digitales al tiempo que los protege del abuso y la explotación. Es necesario limitar el acceso de las empresas tecnológicas a nuestros hijos, y no a la inversa».Futuro. Ahora empieza una etapa de discusión. El proyecto todavía puede cambiar y la Comisión tendrá que trabajarlo con los países miembros y el Parlamento Europeo durante los próximos meses, antes de que pueda convertirse en ley. |
 App recomendada: Did I Lock It? Si sos de las personas que a un par de cuadras de su casa se preguntan si cerró la puerta, si dejó la llave del gas abierta o la estufa prendida, esta app está pensada para vos. Did I Lock It? te deja marcar con un toque si algo quedó cerrado o abierto, y guarda un registro de la hora exacta.Cómo funciona. Cada objeto que agregás (podés sumar los que quieras) se marca como cerrado o abierto con un solo tap y queda un historial completo de cuándo cambió. Lo interesante son los recordatorios: hay seis formas distintas de que la app te haga acordar. Dos en particular que me sirvieron mucho: una que se activa cuando salís de tu casa usando la geolocalización del teléfono y la otra cuando apagás el Bluetooth del auto (cuando se desconecta, la app te pregunta si lo cerraste). |
| Llegamos al final de FUTURO. Espero que te haya gustado esta edición.Nos leemos la semana que viene.Axel |
Un envío de TN
