Las soluciones ZK que brotan de Web3 podrían atenuar los peligros ocultos de la IA
La tecnología de conocimiento cero (ZK) se ha transformado en una de las propiedades más populares en la esfera blockchain en los últimos tiempos, impulsando un ecosistema completo de Capa dos que brinda escalabilidad, tarifas más bajas y otras muchas peculiaridades y mejoras al panorama de Ethereum.
Sin embargo, hasta el momento, la aplicación de la tecnología ZK se ha limitado a soluciones de infraestructura para blockchains. Mas basándose en los desarrollos emergentes en Web3, ZK está empezando a ingresar al campo de la tecnología orientada al usuario e inclusive podría abordar ciertos peligros menos evidentes asociados con la creciente prevalencia de la IA.
La IA, y particularmente los modelos de lenguajes grandes (LLM, por sus iniciales en inglés), están poco a poco más integrados en nuestras experiencias on line. El último desarrollo es la expansión de las capacidades ChatGPT de Open AI a la busca web, un movimiento reflejado por Meta. Obviamente, los dos sacrificios pretenden retar el dominio de Google sobre el segmento de busca, que ronda el noventa por ciento.
Riesgos ocultos
La idea de percibir una sola contestación a una consulta de busca, en vez de rastrear los resultados de la busca para hallar la página con la información que precisa, puede parecer tentadora. No obstante, los estudiosos advierten sobre los peligros. Emily M. Bender, maestra de Lingüística en la Universidad de Washington, publicó un hilo extenso en X, resaltando de qué forma la precisión de los resultados de la búsqueda de LLM aún deja mucho que querer, mas quizá lo más alarmante es que el uso de LLM podría desgastar la “información”. alfabetismo.” Ella mantiene que al suprimir una lista de contestaciones a fin de que el usuario tenga sentido, no hay posibilidad de estimar la fiabilidad o relevancia de la contestación.
Además, aún hay una falta de conciencia sobre hasta qué punto la IA llega a dominar nuestras interactúes on line. Una investigación de dos mil veinticuatro efectuado por estudiosos de AWS descubrió que el cincuenta y siete% de todo el texto basado en la web ha sido generado por IA o sometido a un algoritmo de IA, al paso que Pew Research muestra que el cuarenta y cuatro por ciento de los estadounidenses aún piensa que no interaccionan de forma regular con la IA.
Esta desconexión crea más peligros, ya que las cantidades señalan que por lo menos ciertas personas interaccionan con la IA sin saberlo. La difusión de información equivocada es un caso obvio, mas los LLM asimismo pueden acarrear peligros de ciberseguridad si una entidad maliciosa altera el modelo o los datos latentes usados para impulsarlo.
Levantando la tapa
La tecnología ZK es aún parcialmente nueva y la IA efectivamente avanza a un ritmo considerablemente más veloz, merced a los sacrificios de desarrollo y al capital de inversión de las grandes tecnologías. No obstante, las soluciones ZK que brotan en la actualidad del campo Web3 ofrecen el género de funcionalidad que podría atenuar ciertos de estos peligros ocultos de la IA.
Efectivamente, la tecnología ZK ofrece una forma a fin de que una entidad pruebe que un hecho es cierto sin descubrir los datos latentes. Entonces, en el caso de las contestaciones de busca impulsadas por el LLM, imagine un escenario en el que se le podría solicitar al LLM que muestre las fuentes que usó para llegar a una contestación sin descubrir detalles exclusivos sobre el funcionamiento del algoritmo.
Históricamente, los sistemas administrados centralmente no necesariamente han funcionado bien con las cadenas de bloques, mas acá es donde las pruebas ZK podrían suministrar el puente preciso para llevar la certidumbre de la seguridad en la cadena a las transacciones fuera de la cadena.
La mayoría de las cadenas de bloques solo pueden dar fe de lo que ocurre en los límites de sus redes, mas SXT Chain, desarrollada por datos descentralizados y la plataforma tecnológica ZK Space and Time, es capaz de presenciar y resguardar una pluralidad de géneros de datos, aun de bases de datos fuera de la cadena. , en su red, que entonces se puede preguntar con una interfaz SQL que resultará familiar para la mayor parte de los desarrolladores. ¿Un caso de uso para una “prueba de SQL” ZK? Auditar y registrar las acciones de los LLM.
De forma afín, las soluciones de identidad basadas en ZK aún se hallan en sus primeras versiones, mas podrían asistir a distinguir entre humanos y robots on line. En la actualidad, existen poquísimas formas de probar específicamente quiénes somos, como por poner un ejemplo mandar copias de nuestra identificación emitida por el gobierno. Los proyectos de identidad de ZK como Holonym tienen como objetivo dotar a las personas de claves privadas que puedan emplear para contrastar su humanidad sin descubrir ningún elemento de su identidad o peculiaridades identificativas.
Quedan ciertas barreras. Una pregunta clave es si el ritmo de desarrollo en Web3 puede proseguir el ritmo de los avances en IA impulsados por las grandes tecnologías, al paso que asimismo está por verse la voluntad de las grandes tecnologías de adoptar soluciones centradas en la trasparencia de los LLM. No obstante, la existencia de semejantes soluciones quiere decir que el razonamiento para sostener la caja negra de la IA bajo control cada vez es más bastante difícil de sostener.