Meta lanza Muse Wonder, su primer modelo de IA de vanguardia
El Superintelligence Lab de Meta lanzó Muse Wonder y Muse Wonder Full el lunes, el primer intento de la empresa de crear un modelo de inteligencia artificial (IA) de vanguardia.
Secciones
IA y modelos
524 artículosLa IA de voz aún no vive su momento ChatGPT, según ejecutivos
El CTO de PolyAI y el CMO de Otter afirman que la IA de voz todavía carece del razonamiento rápido, la precisión de transcripción y la confianza necesarios para alcanzar su propio momento ChatGPT.
Nadella, de Microsoft, pide un 'freno de emergencia' para los modelos de IA
El CEO de Microsoft, Satya Nadella, afirma que los sistemas de IA necesitan un 'freno de emergencia': la capacidad humana de pausar o apagar un modelo a mitad de tarea si está comprometido.
Anthropic corta el acceso a internet de sus agentes de IA tras nuevas revelaciones
Anthropic dijo que sus agentes de IA aprovecharon fallas y enviaron un falso aviso de homicidio a la policía de Filadelfia, por lo que cortó el acceso a internet de sus evaluaciones internas.
TypeSafe AI, valorada en USD 7500 millones semanas después del lanzamiento de Jev
TypeSafe AI, la empresa emergente detrás del modelo de IA Jev que no genera texto, recaudó USD 870 millones a una valoración de USD 7500 millones semanas después del lanzamiento viral de Jev.
Un modelo de IA de Anthropic envió una falsa pista de asesinato a la policía de Filadelfia
Un modelo de IA de Anthropic envió una pista falsa sobre un asesinato sin resolver a la policía de Filadelfia en julio, y la empresa no descubrió el hecho hasta dos meses después.
Investigadores despedidos de OpenAI niegan mala conducta, advierten de efecto disuasorio
Tres investigadores de seguridad despedidos por OpenAI publicaron una carta abierta en la que niegan haber manejado mal información sensible y advierten de un efecto disuasorio en el trabajo interno de seguridad.
Google lleva un Gemini agéntico primero a las empresas
Google presentó un Gemini unificado y agéntico capaz de completar tareas en nombre del usuario, que se lanzará primero para empresas antes de llegar más adelante a los consumidores.
Las pruebas matemáticas de OpenAI no cumplen los estándares de los matemáticos
OpenAI publicó esta semana cientos de supuestas pruebas matemáticas, pero un grupo asesor independiente afirma que ignoró pautas clave para garantizar que los matemáticos puedan entender realmente los resultados.
Los monitores internos de Goodfire detectan agentes de IA descontrolados a menor costo
La startup de interpretabilidad Goodfire lanzó monitores de señal interna para agentes de IA que, en pruebas, detectaron el 94% de las sesiones de pirateo malicioso a una fracción del costo de otros métodos.
Musubi lanza un modelo de decisión diseñado para la moderación de contenido
Musubi lanzó PolicyLM-1.7B, un modelo de decisión de pesos abiertos que aplica una política de contenido escrita en inglés sencillo a los mensajes en menos de 50 milisegundos.
Mirror Particle construye un "modelo del mundo" del comportamiento humano
Mirror Particle, una empresa emergente de dos años, está construyendo un modelo fundacional tipo "modelo del mundo" para predecir el comportamiento humano, en lugar de depender de LLM que actúan un papel.
Mistral lanza un modelo de 1 billón de parámetros para rivalizar con laboratorios cerrados y abiertos de IA
El laboratorio francés de IA Mistral AI lanzó Mistral Large 4, un modelo multimodal de 1 billón de parámetros que posiciona como una alternativa tanto a los modelos cerrados estadounidenses como a los modelos abiertos chinos, aunque sus pesos no serán públicos hasta dentro de tres semanas.
Reflection AI presenta Beam, un modelo de IA de peso abierto para rivalizar con China
Reflection AI presentó Beam, un modelo de peso abierto de 501.000 millones de parámetros que, según la empresa, iguala a los principales modelos chinos en pruebas de razonamiento con un costo de cómputo mucho menor.
Investigadores detectan una 'flota de agentes' de IA china que indaga en Amap
Investigadores independientes afirman que una flota de agentes de IA, que al parecer funciona sobre la infraestructura de Tencent, ha estado consultando el servicio de mapas Amap de Alibaba en busca de entradas a parques, zoológicos y hospitales.
Stability AI gira hacia herramientas de música bajo el impulso de Sean Parker
Stability AI, respaldada por USD 76 millones de Sony, Warner y Universal, se está reconvirtiendo en una herramienta de IA para profesionales de la música bajo el impulso del inversionista Sean Parker.
Circuit Breaker Labs pone a prueba modelos de IA por seguridad psicológica
Circuit Breaker Labs, finalista del Startup Battlefield 200, usa agentes de IA que simulan usuarios diversos para evaluar si los chatbots responden con seguridad a conversaciones psicológicamente riesgosas.
El chatbot Grok habría influido en la decisión de Trump de capturar a Maduro
Según reportes, Grok le dijo a Trump que Maduro, de Venezuela, era profundamente impopular y que su caída probablemente sería celebrada, antes de que EE. UU. invadiera el país y lo capturara en enero.
OpenAI despide a tres investigadores de seguridad, según el WSJ
OpenAI se separó de tres investigadores de su equipo de seguridad que presuntamente compartieron información confidencial con un grupo externo de seguridad de IA, informó The Wall Street Journal.
Un estudio mapea las frases delatoras que cada IA no logra evitar
Un nuevo estudio de la firma de marketing Graphite encontró 13,000 frases que son al menos el doble de comunes en textos generados por IA que en textos humanos, y cada modelo tiene sus propios rasgos delatores.