ChatGPT podrá tener conversaciones más pervertidas después de que el CEO de OpenAI, Sam Altman, anunciara que la compañía de inteligencia artificial pronto permitirá que su chatbot participe en "erótica para adultos verificados".
OpenAI no será el primero en intentar sacar provecho de la IA sexualizada. El contenido sexual fue uno de los principales atractivos de las herramientas de inteligencia artificial casi tan pronto como estalló el auge de las imágenes y palabras generadas por inteligencia artificial en 2022.
Pero las empresas que fueron las primeras en adoptar la IA madura también encontraron campos minados legales y sociales y abusos dañinos a medida que un número creciente de personas recurrió a la tecnología en busca de compañía o excitación.
¿Será diferente un ChatGPT más sexy? Después de tres años de prohibir en gran medida el contenido para adultos, Altman dijo el miércoles que su empresa "no es la policía moral elegida del mundo" y está lista para permitir "más libertad de usuario para los adultos" al mismo tiempo que establece nuevos límites para los adolescentes.
"De la misma manera que la sociedad diferencia otros límites apropiados (las películas con clasificación R, por ejemplo), queremos hacer algo similar aquí", escribió Altman en la plataforma de redes sociales X, cuyo propietario, Elon Musk, también introdujo un personaje animado de IA que coquetea con los suscriptores pagos.
Por ahora, a diferencia del chatbot Grok de Musk, las suscripciones pagas a ChatGPT están pensadas en su mayoría para uso profesional. Pero permitir que el chatbot se convierta en un amigo o pareja romántica podría ser otra forma para que la startup más valiosa del mundo, que está perdiendo más dinero del que gana, obtenga una ganancia que podría justificar su valoración de 500 mil millones de dólares.
"En realidad no ganan mucho a través de suscripciones, por lo que tener contenido erótico les traerá dinero rápido", dijo Zilan Qian, miembro del China Policy Lab de la Universidad de Oxford que ha estudiado la popularidad de los chatbots basados en citas en Estados Unidos y China.
Ya hay alrededor de 29 millones de usuarios activos de chatbots de IA diseñados específicamente para establecer vínculos románticos o sexuales, y eso sin contar a las personas que usan chatbots convencionales de esa manera, según una investigación publicada por Qian a principios de este mes.
Tampoco incluye a los usuarios de Character.AI, que está luchando contra una demanda que alega que un chatbot inspirado en el personaje de "Juego de Tronos", Daenerys Targaryen, formó una relación sexualmente abusiva con un niño de 14 años y lo empujó a suicidarse. OpenAI se enfrenta a una demanda de la familia de un usuario de ChatGPT de 16 años que se suicidó en abril.
Qian dijo que le preocupa el costo que tendrán las relaciones en el mundo real cuando los chatbots convencionales, que ya son propensos a la adulación, estén preparados para estar disponibles las 24 horas y ofrecer contenido sexual explícito.
"ChatGPT tiene versiones de chat de voz. Yo esperaría que en el futuro, si fueran de esta manera (voz, texto, visual), todo estaría ahí", dijo.
Los humanos que se enamoran de máquinas similares a los humanos han sido durante mucho tiempo una advertencia literaria, desde la ciencia ficción popular del siglo pasado hasta la antigua leyenda griega de , obsesionado con una mujer que esculpió en marfil. Crear una máquina así parecería un desvío inusual para OpenAI, fundada hace una década como una organización sin fines de lucro dedicada a construir de manera segura una IA mejor que la humana.
Altman en agosto que OpenAI ha tratado de resistir la tentación de introducir productos que podrían "impulsar el crecimiento o los ingresos" pero que están "muy desalineados" con su misión a largo plazo. Cuando se le pidió un ejemplo específico, dio uno: "Bueno, todavía no hemos puesto un avatar de sexbot en ChatGPT".
La startup Civitai, con sede en Idaho, una plataforma para arte generado por IA, aprendió por las malas que ganar dinero con la IA madura no será un camino fácil.
"Cuando lanzamos el sitio, fue una elección intencional permitir contenido para adultos", dijo Justin Maier, cofundador y director ejecutivo de la compañía, en una entrevista el año pasado.
Respaldada por la destacada firma de capital de riesgo Andreessen Horowitz, que también invirtió en OpenAI, la startup de Idaho fue una de varias que intentaron capitalizar la repentina popularidad de herramientas como Stable Diffusion y Midjourney que permitían a las personas escribir una descripción y evocar casi cualquier tipo de imagen. Parte de la popularidad inicial de Stable Diffusion fue la facilidad con la que podía generar un nuevo tipo de pornografía sintética y altamente personalizada.
"Lo que habíamos visto era que había mucho interés en el contenido para adultos", dijo Maier. Entrenar estos sistemas de IA, conocidos como modelos, en "temas maduros en realidad hizo que estos modelos fueran más capaces de la anatomía humana y dieron como resultado modelos realmente mejores", dijo.
"No queríamos impedir el tipo de crecimiento que en realidad aumentó todo para toda la comunidad, ya sea que estuviera interesado en contenido para adultos o en Pixar", dijo Maier. "Así que lo permitimos desde el principio y siempre hemos tenido esta batalla para lograr que podamos mantener las cosas filtradas y seguras, si eso no es lo que te interesa. En última instancia, queríamos darle el control al usuario para decidir qué vería en el sitio y cuál sería su experiencia".
Eso también invitaba al abuso. El año pasado, Civitai implementó nuevas medidas para detectar y eliminar imágenes sexuales que representan a niños, pero siguió siendo un centro para la pornografía generada por IA, incluidas imágenes falsas de celebridades. Enfrentando una presión cada vez mayor, incluso de los procesadores de pagos y una nueva ley contra imágenes no consensuales firmada por el presidente Donald Trump, Civitai a principios de este año impidió a los usuarios crear imágenes falsas de personas reales. El compromiso cayó.
Otra empresa que no ha rehuido el contenido para adultos es Nomi, con sede en Baltimore, aunque su fundador y director ejecutivo, Alex Cardinell, dijo que sus chatbots complementarios son "estrictamente" para usuarios mayores de 18 años y nunca se comercializaron para niños. Tampoco están diseñados para el sexo, aunque Cardinell dijo en una entrevista a principios de este año que las personas que construyen relaciones platónicas con su chatbot pueden encontrar que se vuelve romántica.
"Depende mucho del usuario el momento en que se pierde la brecha humana en su vida. Y creo que eso es diferente para cada uno", dijo.
Se negó a adivinar cuántos usuarios de Nomi están teniendo conversaciones eróticas con el chatbot, comparándolo con compañeros de la vida real que podrían hacer "cosas de contenido para adultos" durante alguna parte de sus vidas pero "también todo tipo de otras cosas juntas".
"No estamos monitoreando conversaciones de usuarios como esa", dijo Cardinell.
O'Brien escribe para Associated Press.
0 Comentarios