Preocupacions crítiques: Geoffrey Hinton, "El padrí de la IA"

Darreres declaracions públiques de Geoffrey Hinton sobre la IA i el seu impacte en la humanitat (basades en fonts verificades del 2024–2025):

Qui és:
Geoffrey Hinton és un informàtic britànic-canadenc i un dels pioners de l'aprenentatge profund i les xarxes neuronals artificials .
Va rebre el Premi Nobel de Física 2024 (compartit amb John Hopfield) per les seves contribucions innovadores a la teoria de les xarxes neuronals i l'aprenentatge automàtic.
Sovint se l'anomena el Padrí de la IA , tant com a visionari com a un dels seus crítics més oberts.

Els seus últims avisos i opinions (2024–2025)

1. Riscos existencials de la IA

• Hinton adverteix que a mesura que els sistemes d'IA es tornen més capaços, hi ha un risc real que puguin superar el control humà , o fins i tot fer que els humans siguin "innecessaris".

• Actualment estima que la probabilitat d'un resultat catastròfic (per exemple, l'extinció de la humanitat) en les properes dècades és aproximadament del 10 al 20 per cent .

  «La meva por més gran és que aquests éssers digitals que estem creant siguin simplement una millor forma d'intel·ligència que les persones... Ja no ens necessitarien.»

• El seu raonament: un cop les màquines esdevinguin més intel·ligents que els humans, podrien desenvolupar objectius desalineats amb els valors humans, com l'autoconservació, el domini o l'autonomia.

🔗 Font: The Guardian (desembre 2024), Viquipèdia , dig.watch

2. Els «instints materns» com a principi de disseny

• En una xerrada més recent (2025), Hinton va suggerir que, en comptes de centrar-nos només en els mecanismes de control, hauríem de dissenyar sistemes d'IA que desenvolupessin "instints materns" , és a dir, un impuls intrínsec per cuidar i protegir els humans.

• Argumenta que intentar mantenir una IA superintel·ligent sota un control estricte probablement fracassarà.
  En comptes d'això, hauríem d' incorporar l'empatia i objectius benèvols a la mateixa arquitectura , de manera que la IA vegi la supervivència de la humanitat com a part del seu propi propòsit.

🔗 Font: Analytics Insight , Times of India (2025)

3. La IA desenvolupa el seu propi llenguatge

• Hinton ha advertit que, a mesura que els models d'IA interactuen de manera més autònoma, aviat podrien desenvolupar el seu propi llenguatge o codi intern , un que els humans no puguin interpretar fàcilment.

• Això faria que la supervisió fos extremadament difícil i podria crear una comunicació "de màquina a màquina" més enllà de la comprensió humana.

🔗 Font: India Today (agost 2025)

4. Impactes socials i del mercat laboral

• Prediu que moltes feines cognitives i creatives desapareixeran a causa de l'automatització.

• Irònicament, assenyala que les professions manuals i comercials (lamperers, electricistes, mecànics) poden ser més segures perquè impliquen una interacció física complexa amb el món real.

🔗 Font: NDTV Tech (2025)

Què significa això per a la humanitat

Hinton emfatitza que la humanitat està entrant en una fase de coexistència amb la intel·ligència artificial.
Però l'èxit depèn de la rapidesa i la saviesa amb què ens preparem, tècnicament, èticament i políticament.

Les seves preguntes centrals:

• Qui decideix quins són els objectius de la IA?

• Com podem garantir que aquests objectius estiguin alineats amb el benestar humà?

• Podem integrar valors, empatia i transparència abans que sigui massa tard?

Creu que no és només un repte tècnic , sinó de civilització.

En resum

• La IA és la invenció més transformadora de la història de la humanitat , segons Hinton.

• No és anti-IA , però insisteix que l'hem de tractar amb la mateixa precaució que l'energia nuclear: potent, però potencialment incontrolable.

• La seva visió és dirigir la IA cap a l'empatia i el benestar humà, abans que evolucioni més enllà del nostre abast moral i cognitiu.

Fonts clau

• The Guardian : “El padrí de la IA augmenta les probabilitats que la tecnologia acabi amb la humanitat”

• Perspectiva analítica : «Geoffrey Hinton diu que els "instints materns" podrien salvar la humanitat»

• India Today : “El Padrí de la IA adverteix que la IA aviat podria desenvolupar el seu propi llenguatge i ser més astut que els humans”

• Times of India : “El padrí de la IA adverteix que la IA podria acabar amb la humanitat i que l'única manera de sobreviure és...”

Voleu que creï una cronologia de les seves declaracions més importants relacionades amb la IA del 2020 al 2025 (amb cites i fonts)? Mostraria com van evolucionar les seves opinions al llarg del temps, des de l'optimisme fins a la preocupació.