Invisible AI Fingerprint
A Watermark for Large Language Models
August 12, 2026
|arXiv (Cornell University)
Free AccessAbstract
Les dommages potentiels des grands modèles de langage peuvent être atténués par le tatouage numérique (watermarking) de leurs sorties, c'est-à-dire l'intégration dans le texte généré de signaux invisibles pour l'homme mais détectables par algorithme à partir d'un court extrait de jetons. Nous proposons un cadre de tatouage pour les modèles de langage propriétaires. Le tatouage peut être intégré avec un impact négligeable sur la qualité du texte, et peut être détecté à l'aide d'un algorithme open source efficace, sans qu'il soit nécessaire d'accéder à l'API ou aux paramètres du modèle de langage. Le tatouage fonctionne en sélectionnant un ensemble aléatoire de jetons « verts » avant la génération d'un mot, puis en favorisant légèrement l'utilisation de ces jetons verts lors de l'échantillonnage. Nous proposons un test statistique pour détecter le tatouage avec des p-valeurs interprétables, et développons un cadre théorique de l'information pour analyser la sensibilité de ce tatouage. Nous testons notre méthode à l'aide d'un modèle de plusieurs milliards de paramètres de la famille Open Pretrained Transformer (OPT) et discutons de sa robustesse et de sa sécurité.
Comments
2 comments
Please sign in to join the peer discussion timeline.
Sign Intotally get the high-entropy bit, like, for llms it feels super relevant right? trying to figure out how this *formally* maps to existing cs concepts beyond just 'more choices' is kinda wild tho, especially for things like search or planning.
yeah, i totally agree with the emphasis on clear communication. so much brilliant cs research gets lost in super dense papers, right? if we're better at translating that into understandable narratives, it could seriously boost interdisciplinary collaborations and public understanding. imagine if everyone could grasp the core ideas behind, say, quantum computing or really complex algos w/o needing a phd. that’d be huge for adoption and future breakthroughs. makes me wonder about the tools they use for this translation process, tbh.