Sneha Revanur ha sido llamado lo que dependía de su política, es un insulto o, como diría los jóvenes, significa que está comiendo.
Eso es bueno.
De cualquier manera, Revanur, una estudiante de último año de la Universidad de Stanford de 20 años que creció en Silicon Valley, no está preocupada por los ataques personales, aunque últimamente ha estado obteniendo más de ellos, especialmente de algunos grandes hermanos tecnológicos que desearían callarse sobre la inteligencia artificial y su potencial para destruirnos accidentalmente (o con propósito) a todos.
En lugar de preocuparse por invocar la ira de algunos de los hombres más poderosos del planeta, se mantiene enfocada en la velocidad vertiginosa con la que AI avanza; La absoluta ignorancia, incluso la resistencia, de los políticos cuando se trata de establecer las medidas de seguridad más básicas para controlarlo; y todo eso significará para los niños que crecerán bajo su influencia.
"Cualquiera que sea el futuro que la IA a largo plazo cree, ya sea positivo o negativo, es (mi generación) lo que va a experimentar eso", me dijo. "Vamos a heredar los impactos de la tecnología que estamos construyendo hoy".
Esta semana, California tomará una gran decisión sobre ese futuro, ya que los legisladores votan.
Debido a que soy un idiota tecnológico que lucha incluso por cambiar el brillo en la pantalla de mi teléfono, usaré las metáforas más simples, que estoy seguro hará que los ingenieros se muevan.
Imagine encender su estufa de gas y luego salir de vacaciones. Tal vez todo estará bien. Tal vez comenzará un fuego y quema tu casa. Tal vez explota y saca el vecindario.
¿Crues los dedos y esperas lo mejor? ¿Sus vecinos tienen derecho a pedirle que lo apague antes de que se vaya? ¿Deberías al menos poner una alarma de humo, así que hay un poco de advertencia si las cosas salen mal?
La alarma de humo en este escenario es.
El proyecto de ley es una medida de transparencia básica y se aplica solo a los desarrolladores de armas grandes de los modelos de IA "fronteriza": estas son las criaturas de IA genéricas y subyacentes que luego pueden ser perfeccionadas en un propósito específico, como controlar nuestras armas nucleares, curar el cáncer o escribir documentos a término para engañar a los estudiantes.
Pero en este momento, las empresas solo ven cuán inteligentes y poderosos pueden hacerlos, dejando cualquier preocupación sobre lo que realmente harán para el futuro, y para personas como Revanur, cuyas vidas serán moldeadas por ellos.
Si se aprueba, la ley requeriría que estos desarrolladores tengan protocolos de seguridad y los hagan públicos.
Requeriría que también revelen si son conscientes de cualquier forma en que su producto ha indicado que de hecho puede destruirnos a todos, o causar problemas "catastróficos", definidos como los que tienen el potencial de matar o herir gravemente a más de 50 personas o causar más de $ 1 mil millones en daños a la propiedad.
Requiere que las empresas denuncien esos riesgos a la Oficina Estatal de Servicios de Emergencia, y también informen si sus modelos intentan obtener comandos no Haz algo, como mentir, un primer requisito de este tipo de ley.
Y crea una protección de denunciantes para que, por ejemplo, un ingeniero que trabaja en uno de estos modelos de repente se encuentra de repente recibiendo amenazas de la IA (sí, esto ha sucedido), puede, si la compañía no lo hace, darnos un aviso sobre el peligro antes de que se desaten.
Hay un par de otras reglas allí, pero esa es la esencia. Básicamente, nos da una pequeña visión dentro de las empresas que literalmente sostienen el futuro de la humanidad en sus manos, pero están impulsados en gran medida por el deseo de ganar dinero.
Big Tech ha presionado toda la fuerza contra el proyecto de ley (y ha tenido éxito en diluirlo). Ingrese a Revanur y la organización de seguridad de IA que comenzó cuando tenía 15 años :.
El Capitolio de California no es más que una escuela secundaria mala, por lo que tal vez Revanur estaba más preparado de lo que se esperaba los trajes. Pero su grupo de "niños de mochila", como se les ha llamado despectivamente, ha presionado a favor de la supervisión gubernamental de la IA con tal fuerza y efecto que SB 53 en realidad tiene la posibilidad de pasar. Esta semana, es probable que reciba votos finales tanto en la Asamblea como en el Senado, antes de dirigirse potencialmente al escritorio del gobernador.
No soy enorme en citar a los cabilderos, pero lo resumí bastante bien.
Revanur y su grupo han pasado de ser despedidos con una actitud de "quién eres tú, no eres nada", desde los legisladores hasta tener "un asiento igual en la mesa" con los hermanos tecnológicos influidos y sus miles de millones, dijo Tratten. Y lo han hecho a través de pura persistencia (aunque no son el único grupo de defensa que trabaja en el proyecto de ley).
Tratten fue contratado por Ecode el año pasado cuando Revanur respaldaba una legislación mucho más fuerte del mismo autor, el senador Scott Wiener. Ese proyecto de ley, SB 1047, habría regulado la industria de la IA, no solo la vigilaba.
El gobernador Gavin, básicamente diciendo que fue demasiado lejos, pero aún reconoce que un "enfoque solo de California puede estar justificado especialmente ausente de acción federal por parte del Congreso". También estableció una comisión para recomendar cómo hacerlo, gran parte de la cual se incorpora a la legislación actual.
Pero desde ese veto, el Congreso ha indicado aproximadamente cero interés en enfrentarse a la IA. Y la semana pasada, Trump organizó una cena formal para los Titanes de la IA, donde absorbieron al empresario en jefe, dejando poca esperanza de cualquier bordillo federal sobre sus aspiraciones.
Poco después de esa comida, la Casa Blanca envió un comunicado de prensa titulado ""
En TI, dijo: "Gracias por ser un presidente de pro-negocio y pro-innovación. Es un cambio muy refrescante. Estamos muy emocionados de ver lo que está haciendo para que nuestras empresas y nuestro país sean tan exitosos".
Eso me dejó preguntándome quién exactamente estará dominado. Openai recientemente, (que está en una notoriamente) y exige todos sus correos electrónicos y comunicaciones sobre el proyecto de ley. Revanur dijo que Code no tiene afiliación a Musk que no sea haber presentado un informe amicus en su demanda, y esas afirmaciones son "ridículas y sin fundamento".
"Como, sabemos con certeza que no tenemos afiliación con Elon", dijo.
Aún así, "la gente espera que nos escondamos en la esquina y detengan lo que estamos haciendo", debido a la presión, dijo.
Pero eso no va a suceder.
"Vamos a seguir haciendo lo que estamos haciendo", dijo. "Simplemente ser un tercero equilibrado, objetivo y reflexivo que puede ser este perro guardián, casi, ya que se desarrolla la tecnología más poderosa de todos los tiempos. Creo que ese es un papel realmente importante para nosotros".
En este momento, la IA está en sus etapas para niños pequeños, y ya nos está burlando de manera peligrosa. Cómo puede haber empujado a un adolescente al suicidio.
En julio, la herramienta de inteligencia artificial de Musk Grok al azar y comenzó a hacer comentarios antisemitas, según el Wall Street Journal. Otro modelo de IA aparentemente cuando fue amenazado con ser apagado.
Un investigador de seguridad de IA familiarizado con ese incidente de chantaje, Aengus Lynch, advirtió que no era una persona única, según la BBC.
"Vemos chantaje en todos los modelos fronterizos, independientemente de los objetivos que se les dan", dijo.
Así que aquí estamos en la infancia de una tecnología que cambiará profundamente a la sociedad, y ya sabemos que el genio está fuera de la botella, ha robado las llaves del automóvil y está en un doblador.
Antes de llegar al punto de tener que elegir, tal vez no vamos allí. Tal vez comenzamos con SB 53, y escuchamos a jóvenes inteligentes como Revanur que tienen tanto el conocimiento para comprender la tecnología y una verdadera participación en hacerlo bien.
Tal vez colocamos la alarma de humo, ya sean los hermanos de tecnología multimillonario o no.
¿Qué más deberías estar leyendo?
La lectura obligada:
El signo de los tiempos:
El especial de los LA Times:
Mantente dorado,
Anita Chabria
-
¿Se le envió este boletín? para conseguirlo en su bandeja de entrada.
0 Comentarios