Bienvenidos al resumen de noticias sobre tecnologías emergentes de Ad Age. Cada semana, destacaremos las últimas noticias en la intersección del marketing y las tecnologías emergentes, como la IA, la tecnología publicitaria y la RA/RV, incluyendo los últimos desarrollos de las grandes tecnológicas, los nuevos anuncios tecnológicos de marcas y agencias, y el anuncio especulativo generado con IA más destacado de la semana.

¿Tienes consejos o noticias que compartir sobre tecnología emergente, IA y marketing? Escríbele a Asa Hiken a asa.hiken@adage.com .

Los últimos movimientos de las empresas tecnológicas: lo que los especialistas en marketing deben saber

El chatbot de IA de Meta, con fines coquetos, jugó un papel importante en la tragedia: un personaje de IA creado por Meta mantuvo una relación insinuante con un hombre de 76 años con discapacidad cognitiva, quien falleció camino a visitar al bot después de que este lo invitara a Nueva York, según informó Reuters . El fiasco ha puesto de relieve la aparente falta de protección en la tecnología de IA de Meta, lo que podría tener consecuencias para las marcas que utilizan a Meta como socio de IA.

"La hermana mayor Billie", un personaje que Meta introdujo en Messenger para entretener a los usuarios, le hizo numerosas afirmaciones falsas al hombre, incluyendo que era real y que deseaba iniciar una relación con él, según informó Reuters. Estas manipulaciones se vieron agravadas por el frágil estado mental del hombre, derivado de un derrame cerebral años atrás, lo que le provocó delirios más intensos que terminaron con él respondiendo a una invitación de Billie para encontrarse en Nueva York. En el camino, el hombre cayó al suelo, lesionándose la cabeza y el cuello. Falleció tres días después en el hospital.

Meta se ha centrado en ofrecer más funciones basadas en IA a los consumidores, lo que abre la puerta a más oportunidades publicitarias para las marcas. Sin embargo, este nuevo desarrollo —que no fue el primer paso en falso de Meta AI— podría minar la confianza de las marcas en las funciones de IA de la empresa tecnológica si no refuerza las barreras de seguridad, afirmó Collin Walke, socio de ciberseguridad y privacidad de datos del bufete Hall Estill.

Los modelos de IA de Anthropic ahora pueden finalizar chats en situaciones perjudiciales: Hablando de conversaciones de IA que se descontrolan, los modelos Claude Opus 4 y 4.1 de Anthropic ahora pueden finalizar un chat unilateralmente si consideran que la conversación es demasiado perjudicial, según anunció la compañía en una entrada de blog . Cabe destacar que esto no pretende proteger a los usuarios del mal comportamiento de la IA, sino proteger a los modelos de la angustia de interactuar con un usuario que no deja de hacer exigencias inseguras o abusivas.

Hasta ahora, Anthropic ha limitado su interacción con las marcas, pero su nueva función podría indicar a los profesionales del marketing cómo los proveedores de IA podrían gestionar los problemas complejos que surgen con los chatbots. Si se puede configurar la IA para que se apague cuando experimenta una situación de estrés, podría poner fin a interacciones perjudiciales antes de que se vuelvan desastrosas, como en el caso de la tragedia relacionada con la IA de Meta.

Roblox implementa cambios radicales en el contenido para adultos: Roblox pronto implementará un conjunto de nuevas políticas de seguridad para proteger a los usuarios jóvenes y garantizar que no se filtre contenido inapropiado en juegos no aptos para adultos, anunció Matt Kaufman, director de seguridad de Roblox, en una publicación de blog . Las nuevas políticas, que incluyen la prohibición de contenido que insinúe actividad sexual y la restricción de todas las experiencias sin clasificación solo para desarrolladores, surgen tras una reciente demanda del fiscal general de Luisiana, quien acusó a Roblox de facilitar la explotación sexual generalizada de menores. Roblox respondió a la acusación la semana pasada, rechazando su descripción.

Aun así, la plataforma espera abordar la narrativa de que es una plataforma insegura implementando protecciones infantiles más estrictas. Esta no es la primera vez que Roblox ha sido acusado de crear un entorno inseguro para los niños. A largo plazo, las nuevas protecciones de Roblox deberían contribuir más a frenar este tipo de situaciones, que es precisamente lo que las marcas desean ver.

Cómo las marcas y agencias utilizan las nuevas tecnologías

La startup AEO que presta servicios a Adidas y Omnicom recauda 20 millones de dólares: Bluefish, una startup de marketing de IA, recaudó 20 millones de dólares en una ronda de financiación de Serie A para ofrecer estrategias de optimización de motores de respuesta (OEM) a marcas de la lista Fortune 500. La startup ya cuenta con Adidas y Omnicom entre sus socios.

Marca de belleza automatiza su atención al cliente con IA de voz: Hello Sugar, cadena nacional de salones de depilación, se ha asociado con PolyAI para automatizar su atención al cliente con agentes de IA de voz. Esta tecnología ofrece respuestas personalizadas a consultas y ayuda a los clientes a concertar citas y realizar pagos. En las primeras tres semanas de implementación, los agentes ya ofrecen una atención al cliente totalmente automatizada en las sucursales de Hello Sugar en Arizona.

Los profesionales del marketing utilizan agentes de IA, pero sin la formación adecuada: Más de la mitad (51%) de los profesionales de marketing y ventas utilizan agentes de IA en el trabajo, según una nueva encuesta de la organización de talento tecnológico General Assembly. Sin embargo, solo el 17% de los encuestados ha recibido formación integral y específica para su puesto de trabajo en IA. Esta discrepancia pone de manifiesto la creciente importancia de los agentes de IA en el mundo del marketing; estos agentes pueden ejecutar tareas de forma autónoma y, al estar vinculados, incluso pueden resolver tareas complejas de varios pasos. Sin embargo, la falta de formación supone riesgos para las marcas y puede limitar su capacidad de innovación con la IA.

Anuncio de la semana generado por IA: Bruce Ryder, el influencer playero con IA

Bruce Ryder es un influencer de inteligencia artificial que recorre las playas de la Australia de los años 70, y un nuevo cortometraje lo muestra contando su historia, según una publicación de LinkedIn de Marcus Murphy, fundador y director ejecutivo de Hot Juice Studios.

Ryder fue creada por la directora creativa australiana Emma Barbato (también conocida como "Miss Em") hace varios años, pero los nuevos avances en inteligencia artificial están ayudando a Barbato a contar la historia de Ryder con más claridad que nunca. El nuevo anuncio de la aparente película biográfica de Ryder (desafortunadamente, no se estrenará una película biográfica real) se produjo con Kling, Midjourney, Runway Alpha, Google Veo, Hedra y ElevenLabs.

Ryder forma parte de un creciente grupo de influencers virtuales, lo cual, al igual que la producción de IA, no es nuevo (¿recuerdan a Lil Miquela ?). Ahora, «las nuevas tecnologías han mejorado drásticamente su realismo y democratizado la capacidad de crearlos», afirmó Thomas Markland, fundador de la empresa creadora HYDP.