CAPTCHA – Test de Turing! I’m not a robot Jean-Marc Robert Génie logiciel et des TI

Image provenant de Wikipedia Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Test de Turing En 1950, le mathématicien Alan Turing proposait un jeu entre un juge (C), une personne (B) et un ordinateur (A). Le juge « discute » avec les deux participants via un terminal. L’ordinateur gagne la partie si le juge ne peut déterminer qui est l’ordinateur et qui est la personne. Image provenant de Wikipedia

Image provenant de Wikipedia Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA En 2003, Luis von Ahn et ses collaborateurs proposaient un Completely Automated Public Turing test to tell Computers and Humans Apart. Permet d’éviter qu’un processus automatique ne puisse utiliser toutes les ressources disponibles, ou du moins une grande partie. Création de compte courriel, écriture de billet pour un blog, ralentir les attaques sur les mots de passe, envoyer un message sur Facebook, etc. Image provenant de Wikipedia

Prendre part à un effort collectif Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Prendre part à un effort collectif Millions of CAPTCHAs are solved by people every day. reCAPTCHA makes positive use of this human effort by channeling the time spent solving CAPTCHAs into digitizing text, annotating images, and building machine learning datasets. This in turn helps preserve books, improve maps, and solve hard AI problems. https://www.google.com/recaptcha/intro/index.html#advanced-security

Prendre part à un effort collectif Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Prendre part à un effort collectif Stop a bot  Improve a map reCAPTCHA improves our knowledge of the physical world by creating CAPTCHAs out of text visible on Street View imagery. As people verify the text in these CAPTCHAs, this information is used to make Google Maps more precise and complete. So if you're a Google Maps user, your experience (and everyone else's) will be even better. https://www.google.com/recaptcha/intro/index.html#advanced-security

reCAPTCHA – digitaliser une carte Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 reCAPTCHA – digitaliser une carte

Prendre part à un effort collectif Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Prendre part à un effort collectif Stop a bot  Build a bot reCAPTCHA helps solve hard problems in Artificial Intelligence. High quality human labelled images are compiled into datasets that can be used to train Machine Learning systems. Research communities benefit from such efforts that help build the next generation of groundbreaking Artificial Intelligence solutions. https://www.google.com/recaptcha/intro/index.html#advanced-security

reCAPTCHA – étiqueter une image Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 reCAPTCHA – étiqueter une image

Prendre part à un effort collectif Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Prendre part à un effort collectif Stop a bot  Save a book reCAPTCHA digitizes books by turning words that cannot be read by computers into CAPTCHAs for people to solve. Word by word, a book is digitized and preserved online for people to find and read. https://www.google.com/recaptcha/intro/index.html#advanced-security

reCAPTCHA – digitaliser un livre Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 reCAPTCHA – digitaliser un livre Joindre l’utile à l’agréable! Permettre de digitaliser de vieux livres et journaux!

Aspect I – Course aux armements Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Aspect I – Course aux armements Défenseurs Attaqueurs Déploiement d’un nouveau générateur d’images Développement d’un nouvel analyseur (vision par ordinateur) Coût: $$ Coût: $$$$$ Trouver des volontaires Payer des personnes

CAPTCHA – Apprentissage Machine Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA – Apprentissage Machine En utilisant des mécanismes complexes (mais standards) d’apprentissage machine (Deep Convolutional Neural Networks), des chercheurs ont pu démontrer que les CAPTCHA numériques peuvent être décodés avec une grande précision (99,8%). Chercheurs de google (google maps et streetview) Goodfellow, I. J., Bulatov, Y., Ibarz, J., Arnoud, S., & Shet, V. (2013). Multi-digit number recognition from street view imagery using deep convolutional neural networks. arXiv preprint arXiv:1312.6082.

CAPTCHA – Apprentissage Machine Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA – Apprentissage Machine En utilisant des mécanismes complexes (mais standards) d’apprentissage machine, des chercheurs ont pu démontrer que les CAPTCHA alphanumériques peuvent être décodés avec une grande précision. Et ce, de façon générique. Plus la peine d’adapter la méthode à un nouveau générateur de CAPTCHA alphabétiques. Approche: This paper introduces a novel approach to solving captchas in a single step that uses machine learning to attack the segmentation and the recognition problems simultaneously. Segmentation: découpage individuel des caractères Bursztein, Elie, Jonathan Aigrain, Angelika Moscicki, and John C. Mitchell. "The end is nigh: generic solving of text-based CAPTCHAs." In 8th USENIX Workshop on Offensive Technologies (WOOT 14). 2014.

CAPTCHA – Apprentissage Machine Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA – Apprentissage Machine Bursztein, Elie, Jonathan Aigrain, Angelika Moscicki, and John C. Mitchell. "The end is nigh: generic solving of text-based CAPTCHAs." In 8th USENIX Workshop on Offensive Technologies (WOOT 14). 2014.

CAPTCHA – Apprentissage Machine Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA – Apprentissage Machine Bursztein, Elie, Jonathan Aigrain, Angelika Moscicki, and John C. Mitchell. "The end is nigh: generic solving of text-based CAPTCHAs." In 8th USENIX Workshop on Offensive Technologies (WOOT 14). 2014.

CAPTCHA – Modèle économique Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 CAPTCHA – Modèle économique Motoyama, Marti, Kirill Levchenko, Chris Kanich, Damon McCoy, Geoffrey M. Voelker, and Stefan Savage. "Re: CAPTCHAs-Understanding CAPTCHA-Solving Services in an Economic Context. » In USENIX Security Symposium, vol. 10. 2010.

Aspect II – User Friendly? Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Aspect II – User Friendly? Une étude - 210 répondants Nombre de tentatives Très familiers avec Internet Premier essai 48% Très exposés aux CAPTCHA (65% au moins un par semaine) Deux essais ou plus 52% Principal obstacle Sécurité vs Convivialité Distorsion 61% Importance égale 90 Fond 21% Dépendamment du système 70 Inutile selon certaines recherches Sécurité 42 Convivialité 6 Fidas, Christos A., Artemios G. Voyiatzis, and Nikolaos M. Avouris. "On the necessity of user-friendly CAPTCHA." In Proceedings of the SIGCHI Conference on Human Factors in Computing Systems, pp. 2623-2626. ACM, 2011.

Variante « Drag & Drop » Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Variante « Drag & Drop » Three-Way Dissection of a Game-CAPTCHA: Automated Attacks, Relay Attacks, and Usability Mohamed, Manar; Sachdeva, Niharika; Georgescu, Michael; Gao, Song; Saxena, Nitesh; Zhang, Chengcui; Kumaraguru, Ponnurangam; van Oorschot, Paul C.; Chen, Wei-Bang. eprint arXiv:1310.1540

Nouvelle approche – I’m not a robot Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Nouvelle approche – I’m not a robot Objectif: Simplifier la résolution du CAPTCHA Possiblement en cliquant uniquement sur le « check box ». https://www.google.com/recaptcha/intro/index.html#advanced-security

Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot Widget When visiting a webpage protected by reCaptcha, a widget is displayed. The widget’s JavaScript code is obfuscated, to prevent analysis from third parties. When the widget loads, it collects information about the user’s browser which will be sent back to the server. Furthermore, it performs a series of checks for verifying the user’s browser. Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot Workflow Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot Workflow Once the user clicks in the checkbox, a request is sent to Google containing (i) the Referrer, (ii) the website’s site key (obtained when registering for reCaptcha), (iii) the cookie for google.com, and (iv) the information generated by the widget’s browser checks (encrypted). The request is then analyzed by the advanced risk analysis system, which decides what type of captcha challenge will be presented to the user. Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot - décortiqué Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - décortiqué Google tracking cookie (http cookie) Information utilisée par une serveur et stockée dans le fureteur Visite initiale (probablement) Information que le serveur peut récupérer pour reconnaître un visiteur revenant sur le site Observation: un fureteur ayant un ou plusieurs tracking cookies de divers services Google (maps, gmail, google, …) est probablement un fureteur d’un système d’un humain. I’m not a robot: Présence de cookies (d’au moins 9 jours)

I’m not a robot - décortiqué Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - décortiqué Un site doit s’enregistrer pour obtenir (site key, secret key) La site key permet d’afficher le widget sur le site. La secret key permet la communication et le backend de www.monsite.com et le serveur de reCAPTCHA server pour vérifier la réponse du client. La paire de clés devrait être associée à un site (et sous-domaines).

I’m not a robot - décortiqué Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - décortiqué Le serveur envoie le widget au client <head> <title>reCAPTCHA demo: Simple page</title> <script src="https://www.google.com/recaptcha/api.js" async defer></script> </head> <body> <form action="?" method="POST"> <div class="g-recaptcha" data-sitekey="your_site_key"></div> <br/> <input type="submit" value="Submit"> </form> </body>

I’m not a robot - décortiqué Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - décortiqué Le client retourne un token au serveur (via son widget) recaptcha-token Le site vérifie ce token auprès de reCaptcha -- secret key Un token ne peut être valide qu’une seul fois Mais ils peuvent être récoltés.

I’m not a robot Analyse de risque No reCAPTCHA Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot Analyse de risque No reCAPTCHA Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot Risk analysis reCAPTCHA Image Avec 4 images - 4 exacts Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot Risk analysis reCAPTCHA Image 9 images proposées 2 à 4 images Avec 4 images - 4 exacts Avec 4 images - 4 exacts + 1 erreur Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot Risk analysis reCAPTCHA Image Avec 3 images - 3 exacts Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot Risk analysis reCAPTCHA Image 9 images proposées 2 à 4 images Avec 3 images - 3 exacts Avec 3 images - 3 exacts + 1 erreur Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot - Analyse de risque Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - Analyse de risque Historique du fureteur Google tracking cookie plays crucial rule in determining the difficulty of challenge that is presented to the user. Environnement du fureteur The reCaptcha widget executes a series of checks for detecting suspicious browser attributes or behavior.

I’m not a robot - Comment l’attaquer Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - Comment l’attaquer Objectif: Créer un « cookie » reconnu par le serveur. Dans ce cas, il suffit de cocher le « check box ». We are able to create over 63,000 cookies in a single day without triggering any mechanisms or getting blocked, and are only limited by the physical capabilities of the machine. Despite being blocked for short periods of time, at the optimal rate we receive approximately 2,500 checkbox captchas per hour, which drops to about 1,200 during peak hours. During weekdays, our results vary between 52,000 and 55,000. We observe less blocking during the weekend, and obtain over 59,000 checkbox captchas per day. Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot - Comment l’attaquer Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - Comment l’attaquer Objectif: Interpréter les neuf images reçues - et la question textuelle ou imagée. GRIS: Google Reverse Image Search permet d’interroger le moteur de recherche avec une image. Ce moteur retourne un descriptif de l’image. Il suffit de retrouver les n réponses attendues et au plus une erreur. Il suffit de retrouver n-1 des n réponses attendues (sans erreur), si n > 2. D’autres moteurs d’images existent (Clarifai, Alchemy, …) Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a robot - Comment l’attaquer Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a robot - Comment l’attaquer Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

I’m not a human- Mais je suis éthique Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 I’m not a human- Mais je suis éthique We have disclosed a report with our findings and recommendations to Google, in an effort to assist them in making reCaptcha more robust to automated attacks. Following our disclosure, reCaptcha altered the safeguards and the risk analysis process to mitigate our large-scale token harvesting attacks. They also removed the solution flexibility and sample image from the image captcha for reducing the attack’s accuracy. We have also informed Facebook, but have not been notified of any changes. Sivakorn, Suphannee, Iasonas Polakis, and Angelos D. Keromytis. "I am robot:(deep) learning to break semantic image captchas." In 2016 IEEE European Symposium on Security and Privacy (EuroS&P), pp. 388-403. IEEE, 2016.

Exemples d’applications des CAPTCHA Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Exemples d’applications des CAPTCHA

Système transactionnel – Exemple 1 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Exemple 1 Défi Preuve: Le bot ne devrait pas être capable. Preuve: La personne devrait être capable.

Système transactionnel – Exemple 1 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Exemple 1 Le serveur transactionnel choisit la valeur du défi s et un numéro de transaction ID. Alice reçoit le défi chiffré et le transmet au serveur de CAPTCHA. Elle conserve ce défi. Serveur de CAPTCHA Serveur transactionnel E(s||ID||MAC(s||ID))

Système transactionnel – Exemple 1 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Exemple 1 Le serveur transactionnel choisit la valeur du défi s et un numéro de transaction ID. Alice reçoit le défi chiffré et le transmet au serveur de CAPTCHA. Elle conserve ce défi. Le serveur de CAPTCHA génère un défi graphique et l’envoie à Alice. Serveur de CAPTCHA Serveur transactionnel E(s||ID||MAC(s||ID))

Système transactionnel – Exemple 1 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Exemple 1 Le serveur transactionnel choisit la valeur du défi s et un numéro de transaction ID. Alice reçoit le défi chiffré et le transmet au serveur de CAPTCHA. Elle conserve ce défi. Le serveur de CAPTCHA génère un défi graphique et l’envoie à Alice. Alice déchiffre le défi graphique et envoie au serveur transactionnel: La réponse au défi graphique; Le défi chiffré qu’elle a conservée. Le serveur transactionnel accepte ssi s* = s. Serveur de CAPTCHA Serveur transactionnel s* et E(s||ID||MAC(s||ID))

Système transactionnel – Attaque Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Attaque Serveur de CAPTCHA Serveur transactionnel Un bot malicieux pourrait demander plusieurs défis graphiques pour le même défi chiffré. Je ne comprends pas! Avec tous ces défis, le bot réussit à déchiffrer le défi graphique. Le bot poursuit le protocole. E(s||ID||MAC(s||ID))

Système transactionnel – Nouvelle solution Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Nouvelle solution Le serveur transactionnel choisit un numéro de transaction ID. Alice reçoit la demande de défi et la transmet au serveur de CAPTCHA. Serveur de CAPTCHA Serveur transactionnel E(ID||MAC(ID))

Système transactionnel – Nouvelle solution Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Nouvelle solution Le serveur transactionnel choisit un numéro de transaction ID. Alice reçoit la demande de défi et la transmet au serveur de CAPTCHA. Le serveur de CAPTCHA choisit la valeur du défi s et envoie à Alice: Le défi chiffré Le défi graphique. Serveur de CAPTCHA Serveur transactionnel E(s||ID||MAC(s||ID)

Système transactionnel – Nouvelle solution Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Système transactionnel – Nouvelle solution Le serveur transactionnel choisit un numéro de transaction ID. Alice reçoit la demande de défi et la transmet au serveur de CAPTCHA. Le serveur de CAPTCHA choisit la valeur du défi s et envoie à Alice: Le défi chiffré Le défi graphique. Alice déchiffre le défi graphique et envoie au serveur transactionnel: La réponse au défi graphique; Le défi chiffré qu’elle a reçue. Le serveur transactionnel accepte ssi s* = s. Serveur de CAPTCHA Serveur transactionnel s* et E(s||ID||MAC(s||ID)

doemail – Default Off Email - Exemple 2 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 doemail – Default Off Email - Exemple 2 www.doemail.org

doemail – Default Off Email - Exemple 2 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 doemail – Default Off Email - Exemple 2

doemail – Default Off Email - Exemple 2 Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 doemail – Default Off Email - Exemple 2 Moyen de prévention de la propagation de SPAM déployé sur le serveur SMTP local Principe de la liste blanche Si le courriel provient d’une adresse connue, le courriel est acheminé directement à son destinataire local Si le courriel provient d’une adresse inconnue, le courriel est conservé localement et un défi est envoyé au l’envoyeur

Références Alan Turing, Computing Machinery and Intelligence, 1950. Jean-Marc Robert, ETS MTI 719 - CAPTCHA - A16 v2.0 Références Alan Turing, Computing Machinery and Intelligence, 1950. Luis von Ahn, Ben Maurer, Colin McMillen, David Abraham et Manuel Blum. reCAPTCHA: Human-Based Character Recognition via Web Security Measures. Science, 12 septembre, 2008, pp 1465-1468. Luis von Ahn, Manuel Blum et John Langford. How Lazy Cryptographers do AI. CACM, février 2004. pp 56-60. Luis von Ahn, Manuel Blum, Nicholas Hopper et John Langford. CAPTCHA: Using Hard AI Problems for Security. Advances in Cryptology, Eurocrypt 2003, pp 294-311. Allan Caine et Urs Hengartner. The AI Hardness of CAPTCHAs does not imply Robust Network Security, iTrust PST, 2007.