Las soluciones ZK que brotan de Web3 podrían atenuar los peligros ocultos de la IA
La tecnología de conocimiento cero (ZK) se ha transformado en una de las propiedades más populares en la esfera blockchain en los últimos tiempos, impulsando un ecosistema completo de Capa dos que brinda escalabilidad, tarifas más bajas y otras muchas peculiaridades y mejoras al panorama de Ethereum.
Sin obstrucción, hasta el momento, la aplicación de la tecnología ZK se ha definido a soluciones de infraestructura para blockchains. Mas basándose en los desarrollos emergentes en Web3, ZK está empezando a ingresar al campo de la tecnología orientada al favorecido e inclusive podría invadir ciertos peligros menos evidentes asociados con la creciente prevalencia de la IA.
La IA, y particularmente los modelos de lenguajes grandes (LLM, por sus iniciales en inglés), están poco a poco más integrados en nuestras experiencias on line. El final progreso es la expansión de las capacidades ChatGPT de Open AI a la indagación web, un movimiento reflejado por Meta. Obviamente, los dos sacrificios pretenden retar el dominio de Google sobre el segmento de indagación, que ronda el noventa por ciento.
Riesgos ocultos
La idea de percibir una sola contestación a una consulta de indagación, en vez de rastrear los resultados de la indagación para percatar(se) la página con la información que precisa, puede parecer tentadora. No obstante, los estudiosos advierten sobre los peligros. Emily M. Bender, maestra de Filología en la Universidad de Washington, publicó un hilo extenso en X, resaltando de qué forma la precisión de los resultados de la búsqueda de LLM aún deja mucho que querer, mas quizá lo más inquietante es que el uso de LLM podría desgastar la “información”. alfabetismo.” Ella mantiene que al suprimir una serie de contestaciones a fin de que el favorecido tenga sentido, no hay posibilidad de estimar la fiabilidad o relevancia de la contestación.
Adicionalmente, aún hay una estupidez de conciencia sobre hasta qué punto la IA llega a dominar nuestras interactúes on line. Una investigación de dos mil veinticuatro efectuado por estudiosos de AWS descubrió que el cincuenta y siete% de todo el texto basado en la web ha sido generado por IA o sometido a un cálculo de IA, al paso que Pew Research muestra que el cuarenta y cuatro por ciento de los estadounidenses aún piensa que no interaccionan de forma regular con la IA.
Esta desconexión crea más peligros, ya que las cantidades señalan que por lo menos ciertas personas interaccionan con la IA sin saberlo. La difusión de información equivocada es un caso obvio, mas los LLM asimismo pueden ocasionar peligros de ciberseguridad si una entidad maliciosa altera el maniquí o los datos latentes usados para impulsarlo.
Levantando la tapa
La tecnología ZK es aún parcialmente nueva y la IA efectivamente avanza a un ritmo considerablemente más veloz, merced a los sacrificios de progreso y al renta de inversión de las grandes tecnologías. No obstante, las soluciones ZK que brotan en la ahora del campo Web3 ofrecen el condición de funcionalidad que podría atenuar ciertos de estos peligros ocultos de la IA.
Efectivamente, la tecnología ZK ofrece una forma a fin de que una entidad pruebe que un hecho es cierto sin descubrir los datos latentes. Entonces, en el caso de las contestaciones de indagación impulsadas por el LLM, imagine un ámbito en el que se le podría solicitar al LLM que muestre las fuentes que usó para impresionar a una contestación sin descubrir detalles exclusivos sobre el funcionamiento del cálculo.
Históricamente, los sistemas administrados centralmente no necesariamente han funcionado perfectamente con las cadenas de bloques, mas acá es donde las pruebas ZK podrían suministrar el puente preciso para sobrellevar la certidumbre de la seguridad en la sujeción a las transacciones fuera de la sujeción.
La mayoría de las cadenas de bloques solo pueden dar fe de lo que ocurre en los límites de sus redes, mas SXT Chain, desarrollada por datos descentralizados y la plataforma tecnológica ZK Space and Time, es capaz de presenciar y resguardar una pluralidad de géneros de datos, aun de bases de datos fuera de la sujeción. , en su red, que entonces se puede preguntar con una interfaz SQL que resultará ascendiente para la anciano parte de los desarrolladores. ¿Un caso de uso para una “prueba de SQL” ZK? Auditar y registrar las acciones de los LLM.
De forma natural, las soluciones de identidad basadas en ZK aún se hallan en sus primeras versiones, mas podrían asistir a distinguir entre humanos y robots on line. En la ahora, existen poquísimas formas de probar específicamente quiénes somos, como por poner un ejemplo mandar copias de nuestra identificación emitida por el gobierno. Los proyectos de identidad de ZK como Holonym tienen como objetivo dotar a las personas de claves privadas que puedan modificar para contrastar su humanidad sin descubrir ningún aspecto de su identidad o peculiaridades identificativas.
Quedan ciertas barreras. Una pregunta secreto es si el ritmo de progreso en Web3 puede continuar el ritmo de los avances en IA impulsados por las grandes tecnologías, al paso que asimismo está por hallarse la voluntad de las grandes tecnologías de adoptar soluciones centradas en la trasparencia de los LLM. No obstante, la existencia de semejantes soluciones quiere afirmar que el razonamiento para sostener la caja negra de la IA bajo control cada vez es más proporcionado difícil de sostener.