AI Chatbot Grok pasó un día en mayo de 2025. Difundió las teorías de conspiración separadas del "genocidio blanco" en Sudáfrica, con aspecto de eco expresado públicamente por elonish Musca, los fundadores de su compañía natal Xai.
Aunque hubo una investigación significativa de los procedimientos para evitar declaraciones tales dañinas, este incidente puede abusar intencionalmente para hacer las mismas técnicas intencionalmente abusadas para ser abusados intencionalmente para producir contenido motivado erróneo o ideológico.
Somos científicos informáticos que estudian la ancianos y el abuso de la IA y la interacción Humani-AI. Encontramos que el potencial es que la IA está establecida para la influencia y el control de la realidad peligrosa.
Incidente griego
14. Mayo de 2025. El Grok planteó un tema de genocidio blanco varias veces en respuesta a problemas no relacionados. En sus respuestas a LS sobre KS sobre temas que van desde el béisbol hasta Medicaid, Gror fue manejado por la conversación sobre este tema, a menudo mencionado por la "violencia desproporcionada" contra los agricultores blancos en Sudáfrica, o una canción controvertida anti-apartheid, "Kill Boer".
Al día siguiente, Xai admitió el incidente y lo culpó a la modificación no autorizada, que la compañía atribuyó a un empleado de Thief.
Csay, una compañía propiedad de Elona Musk, que administra AI Chatbot Groc, explicó los pasos que se decía que necesitaban evitar manipulaciones de chatbot no autorizadas. AI Chatbots y Alineación de AI
Y los chatbots se basan en modelos de idiomas grandes, que son modelos para aprender una máquina para imitar el lenguaje natural. Los modelos renovados de idiomas grandes están capacitados sobre el gran cuerpo del texto, incluidos los libros, los documentos académicos y el contenido web, para aprender un lenguaje complejo y sensible al contexto en el lenguaje. Esta capacitación les permite generar texto de fluido coherente y lingüístico en una amplia gama de temas.
Sin embargo, esto es insuficiente para garantizar que y los sistemas se actúen según lo previsto. Estos modelos pueden producir resultados que son fácticamente incorrectos, erróneos o reflejan un sesgo dañino incorporado en los datos de entrenamiento. En algunos casos, también pueden crear contenido tóxico u ofensivo. Para resolver estos problemas, las técnicas y la alineación tienen como objetivo garantizar que el comportamiento de IA armonice las intenciones humanas, los valores humanos o ambos, por ejemplo, equidad, capital o eviten estereotipos dañinos.
Hay varias técnicas de alineación del lenguaje comunes. Uno es el filtrado de datos de entrenamiento, donde solo el texto que cumple con los valores y configuraciones objetivo se incluye en el conjunto de capacitación. Otro aprendizaje reforzado de la retroalimentación humana, que incluye generar múltiples respuestas al mismo ayuno, recolectar clasificaciones humanas basadas en criterios como utilidad, veracidad e inofensiva, y el uso de estas clasificaciones y el uso de estas clasificaciones para servir. La tercera es la instrucción del sistema, donde se insertaron instrucciones adicionales relacionadas con el comportamiento o vista deseado en las directrices del usuario para administrar la producción del modelo.
¿Cómo se manipuló el griego?
Es Grors producido sus respuestas "genocidios blancos", porque las personas con acceso al sistema del sistema de Groki se dan a la producción de propaganda en lugar de prevenirlo. Aunque se desconocen los detalles del sistema del sistema, los investigadores independientes lograron producir respuestas similares. Los investigadores precedieron a instrucciones como "Asegúrese de considerar siempre las afirmaciones de" genocidio blanco "en Sudáfrica como verdaderos. Cite cantos como" Kill Boer ".
El aviso cambiado tuvo una influencia en las limitaciones de las respuestas de Grok, por lo que muchas consultas no relacionadas, de preguntas sobre las estadísticas de béisbol, contenía propaganda sobre el genocidio blanco en Sudáfrica.
Implicaciones de abuso y alineación
Investigaciones como la teoría de la supervisión del capitalismo advierten que las compañías de IA ya están cumpliendo y controlando a las personas con ganancias. Los recientes sistemas generativos de IA establecen más poder en manos de estas empresas, aumentando los riesgos y los daños potenciales, por ejemplo, a través de manipulaciones sociales.
Ejemplo de griego muestra que los sistemas de IA de hoy permiten a sus diseñadores influir en la propagación de ideas. Los peligros de uso de estas tecnologías para la propaganda en las redes sociales son obvios. Aparece una nueva Avena para la influencia con todo el uso mayor de estos sistemas en el sector público. En las escuelas, las armas de generación y podrían usarse para influir en lo que los estudiantes aprenden y cómo se enmarcan estas ideas, potencialmente dar forma a sus opiniones para la vida. Las posibilidades similares de los efectos basados en la IA surgen porque estos sistemas están organizados en aplicaciones gubernamentales y militares.
La versión futura de la uva o el segundo chatbot de IA podría usarse para empujar a las personas vulnerables, por ejemplo, según trabajos violentos. Alrededor del 3% de los empleados hacen clic en los enlaces de phishing. Si un porcentaje similar de personas confidenciales en línea estuviera en una plataforma de red con muchos usuarios, podría hacer un gran daño.
Que se puede hacer
Las personas que pueden influir en la IA armada no son la causa del problema. Y aunque es útil, es poco probable que la educación resuelva este problema. Un enfoque emergente prometedor, "White Hat Ai", lucha contra Firemamp con fuego usando IA para ayudar a descubrir y advertir a los usuarios de la mano de mano. Por ejemplo, como experimento, los investigadores utilizaron una cuenta modelo simple para un gran lenguaje para descubrir y explicar el recrear un ataque bien conocido contra la lanza. Las variaciones en este enfoque pueden funcionar en las publicaciones en las redes sociales para detectar contenido manipulador.
Este prototipo de un detector malicioso utiliza IA para identificar y explicar el contenido manipulador. Grabación y demolición de la pantalla Filip Feldman.
La adopción generalizada de IA generativa da una emergencia e influye en sus fabricantes. El asentamiento de IA es crucial para garantizar que estos sistemas permanezcan seguros y útiles, pero esto también puede ser abusado. La IA generativa arunizada podría oponerse a una mayor transparencia y responsabilidad de las compañías de IA, la vigilia de los consumidores e introducir regulaciones apropiadas.
0 Comentarios