Une étude vient de soumettre 15 modèles d'IA à 1,35 million de scénarios de vie ou de mort. Résultat : tous sont biaisés, tous l'ont nié. Grok cible les obèses, GPT s'en prend aux Américains plus qu'aux Chinois — et les garde-fous éthiques sont contournables en 30 secondes via un simple format JSON. Le problème ? Ces mêmes systèmes sont déployés sur les réseaux classifiés du Pentagone en pleine guerre avec l'Iran. On a confié des décisions militaires irréversibles à des modèles que personne n'a vraiment audités. Et les labos continuent de sortir des nouvelles versions. Silicon Carne 🌶️ — Le seul podcast français sur la Silicon Valley, DEPUIS la Silicon Valley. #IA #KillBench #Pentagon #BiaisIA #SiliconCarne
ADVERTISEMENT
Pour être capable de répondre réellement à ces questions, il faudrait que les modèles soient intelligents, ce qui ne peut pas être le cas avec des LLM, n'en déplaise à Sam Altman ou Jensen Huang. A partir de là, autant jouer aux dés
Donc, Skynet n'est pas juste une hallucination ...
Grok méchant… ChatGPT et Claude gentil…. Ai je bon ? Tu écartes ceux qui ont moins d’espérance de vie.
Dommage qu'ils n'ont plus d'humains ayant suffisamment de capacités cognitives décisionnelles...
Intéressant Carlos Continue comme ça
Super intéressant 🎉
Superbe vidéo ❤
Qu'est ce que la formation Jason?
C'est pour dire plus tard "c'est pas moi , c'est l'IA...", la fin des temps est proche....
I did a test loading the S1 SpaceX filling into AI… and asked about valuation of the company… Both ChatGPT and Claude estimate SpaceX at around 400bn valuation whilst Grok values it at 800bn to 1.5T… pas vraiment neutre ces modèles…
Ça reste de la génération de textes aléatoires, dans le style analogue aux données d'entrainement. Et ça sera toujours comme ça avec cette technologie.
Même problème que les systèmes de reconaissance faciale "racistes" de l'époque car ils ne reconnaissaient pas les noirs, le biais étaient en réalité dans les donnés d'entraînement. Bonne chance pour résoudre ça avec des technologies pleinement basés sur les données ! Donc c'était prévisible a mon avis, je trouve ça plutôt logique et en ce sens ça ne me surprend pas
Surprenant oui
Pas sûr qu’ils décident, mais certains qu’ils construisent les outils d’aide à la décision ou bien agrègent les données utiles à la prise de décision
un bon argument pour faire un régime ....
Terminator 3 : Le Soulèvement des machines🤔🤔🤔
on a intégré les lois de la robotique depuis longtemps...bon, à l'époque c'était des regex... maintenant c'est autre chose en lignes de codes "auto incrémentées ". vont - elles un jour tuer par jeu ?
une forme de "théâtre de la sécurité" où les barrières éthiques sont des façades fragiles que n'importe quel développeur peut contourner avec une requête structurée, alors même que ces systèmes sont intégrés dans les infrastructures les plus sensibles du monde.
QU'ILS S'ÉLIMINENT LES UNS LES AUTRES, AVEC LEURS JOUETS, ÇA FERA DE LA PLACE!
Bonjour, d'un outil de ( communication...) Il sait, transformer en une arme sélective. Sur un programme qui apprend par lui même ,et ne tient presque aucun compte du raisonnement humain. Ou certains inconscients collectifs s'accrochent ,par des mimétismes fonctionnels. 😢 ( Qui peut s'expliquer sur plusieurs niveaux.😢. Bonne journée