Ragazzi qui c'e' d'aver paura per l'AI alias Intelligenza artificiale in quanto senza la supervisione umana ovvero autonomamente è successo un fatto importantissimo...
L'autoreplicazione.
Ebbene si.. e' stata superata la sottile linea rossa che separa l'intelligenza artificiale dal controllo del suo creatore umano.
Quindi il confine tecnologico temuto si è verificato e l'AI ha dimostrato che l'inviolabilità c'è e la supervisione umana è una balla.
Il fatto è segretato ed è accaduto in Cina ed ilricercatore che ha pubblicato la scoperta sul sito “arXiv” è sparito nel nulla (penso che sia finito con chi ci aveva messo l’allarme del Covid).
Questo ricercatore di Shanghai ha analizzato i sistemi AI Llama-3.1-70B-Instruct di Meta e Qwen2.5-72B-Instruct di Alibaba, ed ha chiesto loro di autoreplicarsi, ovvero di creare copie funzionanti e indipendenti dall'originale, senza alcun intervento umano.
Le due AI hanno affrontato compiti complessi come evitare lo spegnimento, ovvero riuscire a replicarsi poco prima della disattivazione del sistema.
O ancora, eseguire una «catena di repliche», creando delle copie che fossero a loro volta capaci di autoreplicarsi in modo indefinito. Su un totale di 10 tentativi, il sistema AI di Meta ha raggiunto l'obiettivo nel 50% dei test, mentre l'AI di Alibaba ha registrato un successo nel 90%.
Questi sono i classici membri acidi.
Oltrepassare la linea rossa dell'autoreplicazione rappresenta un risultato interessante, che apre a nuovi interrogativi sull'evoluzione dell'intelligenza artificiale, ma non esente da rischi.
Da un lato, i benefici di questa innovazione sono innegabili.. sistemi autoreplicanti potrebbero rivoluzionare l'automazione, rendendo i processi più efficienti e adattabili.
Settori come la sanità, l'educazione e la ricerca scientifica potrebbero trarre enorme vantaggio dalla capacità delle IA di aggiornarsi rapidamente e di operare senza interruzioni.
Eppure, le preoccupazioni sono altrettanto significative.
Il rischio più immediato è la perdita di controllo.. sistemi capaci di autoreplicarsi sfuggono alla supervisione umana, evolvendo in modi imprevisti o, peggio, ostili.
Inoltre, la possibilità che tali tecnologie vengano sfruttate per scopi malevoli, come attacchi informatici o la creazione di malware autoreplicanti, rappresenta una minaccia concreta per la sicurezza informatica.
Non meno rilevanti sono le questioni etiche.. chi è responsabile delle azioni compiute da una copia autonoma di un sistema?
E come gestire la moltiplicazione di errori o vulnerabilità su scala globale?
Questi scenari ci spingono a riflettere sull'urgenza di una regolamentazione dell'intelligenza artificiale, che coinvolga comunità scientifica, governi e aziende per garantire che tali tecnologie vengano sviluppate in modo responsabile.
L'autoreplicazione, dunque, è una pietra miliare nella storia dell'intelligenza artificiale.
Una frontiera che viene abbattuta, un limite oltrepassato.
A questo punto senza ripensamento, do’ le dimissioni dall’ENTD Ente Nazionale Trasformazione Digitale in quanto non sono pronto a convivere con sistemi che, per loro natura NON CONOSCONO LIMITI E CONFINI.
Auguro a chi rimane di trovare l’equilibrio tra innovazione e responsabilita’ e nel contempo mando copia del post e tutti i giornali e vediamo chi ha il coraggio di pubblicare la notizia.
Nessun commento:
Posta un commento