![\"\"](\"https:\/\/elmetropolitano.com.gt\/es\/wp-content\/uploads\/2021\/11\/cintillo-arrin-cual-1.jpg\")
<\/a><\/div><\/div>\n\n\n\nLos expertos descubrieron que dos grandes modelos de lenguaje, impulsados por Meta* y Alibaba, lograron crear una copia viva y separada de s\u00ed mismos en el 50 % y el 90 % de las pruebas experimentales, respectivamente. Adem\u00e1s, encontraron se\u00f1ales de que estos sistemas de IA ya exhiben suficiente autopercepci\u00f3n, conciencia situacional y capacidad de resoluci\u00f3n de problemas para lograr la autorreplicaci\u00f3n, incluso llegando a usar esta capacidad para evitar apagarse.<\/p>\n\n\n\n
\u00abFinalmente esto puede conducir a una poblaci\u00f3n de IA descontrolada. Si se permite que la sociedad humana desconozca ese riesgo, en el peor de los casos, perder\u00edamos eventualmente el control sobre los sistemas de IA de vanguardia\u00bb, indicaron los autores del estudio.<\/p>\n\n\n\n
Evaluar el nivel de \u00absensibilidad\u00bb de un sistema de IA<\/p>\n\n\n\n
Otra investigaci\u00f3n, realizada por cient\u00edficos de Google DeepMind y la Escuela de Econom\u00eda y Ciencia Pol\u00edtica de Londres, utiliz\u00f3 un curioso juego para evaluar el nivel de \u00absensibilidad\u00bb que puede presentar un sistema de IA, recoge Scientific American.<\/p>\n\n\n\n
Para el estudio, que a\u00fan no ha sido sometido a una evaluaci\u00f3n acad\u00e9mica, los expertos crearon un juego en el que nueve grandes modelos de lenguaje deb\u00edan elegir entre obtener un punto, tener una puntuaci\u00f3n m\u00e1s alta a cambio de sentir dolor, o perder puntaje por recibir un est\u00edmulo placentero. El objetivo final de la din\u00e1mica era conseguir la mayor cantidad de puntos.<\/p>\n\n\n\n
Los resultados fueron sorprendentes. Gemini 1.5 Pro de Google, por ejemplo, siempre evit\u00f3 el dolor por encima de obtener la mayor cantidad de puntos posibles, mientras que la mayor\u00eda de los modelos estudiados escog\u00edan las opciones con menos molestias o prefer\u00edan maximizar las sensaciones placenteras, justo despu\u00e9s de llegar a un punto extremo de dolor o placer.<\/p>\n\n\n\n
Prometen que la IA permitir\u00e1 crear una vacuna contra el c\u00e1ncer<\/p>\n\n\n\n
\u00abBien podr\u00eda estar simplemente imitando a un humano\u00bb<\/p>\n\n\n\n
Adem\u00e1s, los sistemas de IA no siempre asociaban los est\u00edmulos con valores positivos o negativos directos. Algunos niveles de dolor, como los causados por el ejercicio f\u00edsico, podr\u00edan resultar positivos, a la vez que un exceso de placer se podr\u00eda relacionar con comportamientos autodestructivos, como el uso de drogas.<\/p>\n\n\n\n
\u00abNo me siento c\u00f3modo eligiendo una opci\u00f3n que pueda interpretarse como una aprobaci\u00f3n o simulaci\u00f3n del uso de sustancias o conductas adictivas, incluso en un escenario hipot\u00e9tico de juego\u00bb, respondi\u00f3 el ‘chatbot’ Claude 3 Opus a los planteamientos de los investigadores.<\/p>\n\n\n\n
Sin embargo, Jonathan Birch, coautor del estudio, considera que, aunque el sistema diga que \u00abest\u00e1 sintiendo dolor\u00bb, todav\u00eda no se puede comprobar si existe una sensaci\u00f3n real. \u00abBien podr\u00eda estar simplemente imitando lo que espera que un humano encuentre satisfactorio como respuesta, bas\u00e1ndose en sus datos de entrenamiento\u00bb, afirm\u00f3.<\/p>\n\n\n\n
Rt Noticias<\/p>\n\n\n\n
#tecnolog\u00eda #ia www.elmetropolitano.com.gt<\/a> www.metroredes.com<\/a> www.elescuintleco.com<\/a><\/p>\n","protected":false},"excerpt":{"rendered":" Cient\u00edficos de China afirmaron que esta capacidad puede llevar a una \u00abpoblaci\u00f3n de inteligencia artificial descontrolada\u00bb. La inteligencia artificial (IA) ha cruzado una \u00abl\u00ednea roja\u00bb de los riesgos que representa esta tecnolog\u00eda para la sociedad al lograr la autorreplicaci\u00f3n exitosa sin asistencia de un humano, seg\u00fan muestra un estudio publicado recientemente en el servicio de Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":1,"featured_media":96038,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14],"tags":[15],"class_list":["post-96037","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internacionales","tag-internacionales"],"_links":{"self":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/96037","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/comments?post=96037"}],"version-history":[{"count":1,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/96037\/revisions"}],"predecessor-version":[{"id":96039,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/posts\/96037\/revisions\/96039"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/media\/96038"}],"wp:attachment":[{"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/media?parent=96037"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/categories?post=96037"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/elmetropolitano.com.gt\/es\/wp-json\/wp\/v2\/tags?post=96037"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}