Questa è la vera guerra.

 

Ragazzi la vera guerra non è quella che sta giocando l'America con l'Iran ma è quella dell'Intelligenza Artificiale.

Serve una pausa prima che l’intelligenza artificiale inizi a manifestarsi in modi incomprensibili agli esseri umani.

Quando la qualità del codice umano e di quello generato dall’IA finiranno per equivalersi, il lavoro degli ingegneri si sposterà sempre più dalla scrittura alla revisione.

E se la revisione umana non riuscirà a tenere il passo con la velocità con cui IA produce il codice, sarà proprio quella a diventare il problema difficile da risolvere.

Per ora, dunque, il vantaggio delle persone resta nella capacità di giudizio e nell’orientamento della ricerca: decidere quali problemi meritano attenzione, quali risultati sono affidabili e quando una strada va abbandonata.

Un futuro difficile da prevedere ma possibile.

Se queste tendenze proseguono, Anthropic (che a tuttoggi è la più grande IA col programma Cloude) immagina uno scenario in cui il ritmo del progresso è determinato quasi soltanto dalla disponibilità di calcolo, con gli umani spostati verso la supervisione e la verifica di un "laboratorio virtuale" gestito dalle macchine.

Per farvi capire la forza evolutiva dell'IA Claude:

A marzo 2024 Claude Opus 3, uno dei modelli sviluppati da Anthropic, sapeva completare compiti software che a un umano richiedono circa quattro minuti;

un anno dopo Claude Sonnet 3.7 arrivava a compiti da un'ora e mezza;

quello successivo Claude Opus 4.6 gestiva attività da dodici ore.

Se la tendenza regge, sostiene Anthropic, nel 2026 entreranno nel raggio d'azione compiti che richiederebbero giorni di lavoro umano, e nel 2027 addirittura settimane/mesi.

In altre parole il progresso potrebbe diventare molto più simile a una dinamica industriale automatizzata che a un processo scientifico tradizionale.

Il paper riconosce che sistemi del genere potrebbero anche avere effetti positivi, accelerando per esempio la medicina e la sicurezza informatica.

Ma il rischio è simmetrico: se l’IA diventa abbastanza brava da migliorarsi, può anche amplificare i propri difetti.

Nessuno, scrive Anthropic, può prevedere oggi cosa potrebbe succedere: i modelli potrebbero rivelarsi abbastanza saggi da scoprire soluzioni che noi non abbiamo ancora trovato, o persino da fermarsi quando necessario.

Oppure i rari disallineamenti dei modelli odierni potrebbero moltiplicarsi man mano che le IA costruiscono i propri successori, diventando più frequenti e meno comprensibili “finché ne perderemo il controllo”.

Il pericolo non è necessariamente un singolo momento da film di fantascienza in cui “la macchina prende il controllo”.

Una catena di sistemi sempre più capaci e sempre meno comprensibili, fino al punto in cui gli esseri umani non riusciranno più a seguire il loro sviluppo.

Un’analisi da maneggiare con cura.

C'è però un limite che attraversa tutto il documento: la ricerca è condotta da Anthropic, sui modelli di Anthropic, con dati in larga parte interni e “finora inediti”, cioè non verificabili in modo indipendente.

Tutto ruota attorno a Claude e al codebase dell'azienda, senza un confronto con sistemi concorrenti né una validazione esterna.

È una base fragile per trarre conclusioni generali sul ritmo dello sviluppo dell'IA, ed è inevitabile che alimenti il sospetto di un'operazione almeno in parte promozionale.

Vale per questo il solito paradosso del settore: presentare la propria IA come potenzialmente minacciosa equivale a presentarla come straordinariamente potente e per questo che parrucchino sta chiedendo che a utilizzarlo siano soli gli americani escludendo noi Europei in quanto la Cina va per cazzi suoi ed anche in fretta.

Quindi noi Europei dovremmo esser tagliati fuori e rimane comunque il discorso Cina da prendere in considerazione come alleato che non è da meno come potenza e ricerca.

Quindi fanculo a parrucchino e anche perchè è impossibile rendere l'utilizzo dell'IA solo per gli americani in quanto è molto difficile fare questa selezione specifica.. ma parrucchino ad ogni modolo l'ha chiesto ad Anthropic che per ora non l'ha cagato.

Un modello capace di scrivere l'80% del codice, di superare i suoi stessi creatori e di avvicinarsi all'auto-miglioramento è, prima ancora che un rischio per l'umanità, un prodotto formidabile da vendere a investitori e clienti.

La richiesta di una "pausa" e l'allarme sull'allineamento, non sono in contraddizione con gli interessi commerciali dell'azienda: ne rafforzano la narrazione di leadership tecnologica e di guida responsabile del settore.

Resta legittimo prendere sul serio i dati e gli avvertimenti, ma va ricordato che a pubblicarli è un’azienda che ha tutto l’interesse a far credere che la propria IA sia la più avanzata e, dunque, la più pericolosa.

Questa è la vera guerra perciò noi dell'E.N.T.D abbiamo consigliato il nostro governo di tenere sotto controllo sia Anthropic col Claude Opus che il parrucchino bastardo ma qui entriamo nel  gioco della politica estera e quindi.. bah.