Las celebridades están demasiado familiarizadas con el mundo de, el término coloquial para videos generados por inteligencia artificial que representan actores y otros talentos de Hollywood haciendo falsamente o que nunca aceptaron.
Para protegerse, los actores como Steve Harvey, la agencia de talentos de Beverly Hills WME y los estudios han solicitado la ayuda de Vermillio, una compañía con sede en Chicago que rastrea las famosas semejanzas digitales y propiedades intelectuales en línea. Dependiendo de lo que quieran sus clientes, puede eliminar el material.
Pero a medida que la tecnología de IA continúa mejorando y se vuelve más ampliamente disponible para el público en general, las personas regulares también están siendo estafadas.
Ahora, Vermillio dice que está ofreciendo una versión de su servicio de forma gratuita para todos.
La medida se produce a medida que más y más convincentes defensores continúan proliferando en línea, lo que dificulta que los sitios de redes sociales vigilen dicha actividad. En 2019, hubo alrededor de 18,000 profundos en todo el mundo y este año, ha habido aproximadamente 2 billones de creaciones generativas, dijo el director ejecutivo y cofundador de Vermillio, Dan Neely.
Eso deja al promedio de Joes con un riesgo creciente de ser hacerse hacerse pasar por en línea, con poco recurso.
"No podemos esperar a que los gobiernos resuelvan este problema", dijo Neely. "No podemos esperar a que los legisladores resuelvan este problema. No podemos esperar a que otras personas resuelvan este problema. Simplemente dijimos que es lo correcto, por lo que deberíamos hacerlo".
Con este movimiento, Vermillo está adoptando un modelo clásico "freemium", que ofrece un servicio parcial sin cargo y ventas al revés para características adicionales.
Así es como funciona.
Usando su tecnología TraceID, la compañía marca contenido problemático. Para los clientes de pago, Vermillio puede enviar solicitudes de eliminación a sitios como YouTube o Instagram. Además, Vermillio dice que los clientes pueden monetizar sus datos mediante la licencia.
Las personas que se registran en la versión gratuita ingresan información sobre sí mismas, como su nombre, fecha de nacimiento y manijas de redes sociales en sitios como Instagram o YouTube.
Luego, Vermillio usará esa información para construir un "modelo de semejanza" para buscar en Internet las posibles banderas rojas que involucran la identidad del usuario. Luego Vermillio alerta al usuario sobre lo que existe en línea. Por ejemplo, si alguien ha creado una cuenta falsa de Instagram de ese usuario, Vermillio lo marcaría.
Los usuarios son notificados de este tipo de contenido y pueden decidir por sí mismos lo que les gustaría permitir o tomar medidas para eliminar. Si el usuario desea que Vermillio solicite eliminar el contenido inapropiado, los usuarios deberían actualizar a una cuenta pagada, que comienza en $ 10 al mes e incluye cinco solicitudes mensuales de eliminación.
Si bien muchas plataformas de redes sociales dan una opción a los usuarios de marcar contenido problemático, Vermillio dijo que es más rápido y efectivo que hacer que los usuarios vayan directamente a YouTube o Instagram para rectificar la situación. Ha construido una red de socios y puede aumentar los eliminar tan rápido como una hora, dijo la compañía.
Los ejecutivos de Vermillio dijeron que algunos ejemplos de falsificaciones profundas de la vida real incluyen voces de celebridades utilizadas para recaudar dinero para organizaciones benéficas falsas o organizaciones terroristas, y estudiantes de secundaria que crean una pornografía falsa de sus compañeros de clase.
"Está afectando a las personas normales en el sentido de que están siendo estafados por falsificaciones profundas, pero también está afectando a los adolescentes, por lo que las personas necesitan entender dónde se encuentran", dijo Kathleen Grace, directora de estrategia de Vermillio. "Esta es una manera fácil de hacer eso".
Si bien los perfiles de redes sociales falsos han existido durante años, "la IA generativa acaba de verter gasolina sobre ella", dijo Grace.
La compañía dijo que cientos de personas usan los servicios de Vermillio, pero no especificaron números. A finales de año, la compañía espera tener miles.
Neely dijo que la compañía no es rentable y se negó a compartir cifras de ingresos. La revista Time de que los ingresos de TraceID de Vermillio aumentaron diez veces desde abril de 2023 hasta abril de 2024. La compañía gana dinero a través de las versiones pagas de su servicio y licencias. Vermillio ha recaudado $ 24 millones en fondos.
Las empresas y el talento de Hollywood están navegando por la inteligencia artificial de diferentes maneras.
Grupos como el Guild Sag-Aftra de Arrenders están presionando para más estados y federales contra Deepfakes. Algunas celebridades, como el actor de apoyo ganador del premio de la Academia, Jamie Lee Curtis, para obtener un anuncio falso de ella en Instagram, mostrándola falsamente respaldando un producto dental.
WME anunció un con Vermillio el año pasado.
"La escala del problema es extraordinaria, por lo que si eres un titular de los derechos, solo tratar de entender cuántas de estas salidas de IA se basan o utilizaron mis datos, mi IP de alguna manera o forma es una gran necesidad", dijo Chris Jacquemin, jefe de estrategia digital de WME.
"Obviamente han demostrado que TraceID puede proteger las figuras públicas más importantes y de alto perfil del mundo", agregó Jacquemin. "Abrirlo en una aplicación mucho más amplia, creo que es un gran paso adelante en la democratización realmente de cómo cualquiera puede comenzar a controlar su semejanza con respecto a las plataformas de IA y AI".
0 Comentarios