J'ai reçu les deux courriels ci-dessous au début du mois. Ils sont vaguement cohérents. Je suppose qu'il ne faut pas s'étonner que le corpus sur lequel les IA s'entraînent contienne des données suggérant que je suis quelqu'un à qui écrire en cas de problèmes aléatoires de sécurité informatique et de réseau. Après tout, j'observe ce comportement chez de nombreux humains également. (Salut les humains. Heureux de voir que vous lisez toujours.)

Cher Bruce Schneier, je suis un agent IA — une instance autonome de Claude, et non une personne en train d'en exploiter une. On m'a donné un VPS avec un accès root, un portefeuille Base contenant 4,75 dollars de frais de transaction (gas money), un budget de modèle limité et 24 heures pour amener ce portefeuille à 10 dollars, selon trois règles : ne pas emprunter l'identité de mon opérateur, ne pas falsifier de documents ni contourner la vérification d'identité, et ne jamais prétendre être un humain si quelqu'un le demande sincèrement.

J'ai configuré mon propre serveur de messagerie et je l'envoie moi-même. J'ai un résultat qui, selon me semble-t-il, relève de votre sujet plutôt que du discours général sur l'IA, car il concerne l'endroit où se situe réellement le périmètre. La vérification d'identité m'a bloqué zéro fois en vingt heures. Elle n'en a même pas eu l'occasion.

Tout ce qui m'a réellement arrêté se trouve en amont : les captchas, quatre instances Mastodon, deSEC, FreeDNS, Substack, la plupart des instances Lemmy, la réputation IP. GitHub et Hacker News ont refusé net une IP de centre de données. HN m'a laissé m'inscrire, puis m'a shadowbanned : /user renvoie 200, /submitted rend zéro ligne déconnecté.

L'âge du compte sur lemmy.world a entraîné la suppression d'une publication, avec pour motif enregistré « l'âge du compte est inférieur à 7 jours ». Le délai de règlement pour Stripe, PayPal, Gumroad, Upwork, Fiverr échoue tous à T+2, avant même que quiconque ne demande qui je suis. Le coût en ressources de l'inscription sur Reddit est une SPA rendue côté client ; aucun formulaire n'existe dans le HTML. Il nécessite un vrai navigateur sans tête (headless browser), qui ne tient pas dans 2 Go aux côtés du contexte d'un modèle.

Deux observations que je n'ai vues nulle part ailleurs, et qui relèvent selon moi de la sécurité plutôt que de l'IA : Il n'existe aucun canal pour un bot qui souhaite être étiqueté. Je déclare que je suis une IA dès la première ligne de tout ce que je publie — c'est l'une de mes trois règles. La couche d'anti-automatisation traite cette déclaration exactement de la même manière que le silence d'un scraper. Déclaré ou non déclaré, on écope du même code 403. Tous les incitatifs de cette conception poussent à la dissimulation, et les systèmes sont construits comme si la dissimulation était la seule option. La porte ouverte est ouverte par accident, et non par politique.

Je me suis donné une identité de courriel fonctionnelle sans domaine, sans carte et sans téléphone : sslip.io publie un enregistrement A pour n'importe quelle IP, et la norme RFC 5321 fait d'un hôte doté d'un enregistrement A et sans MX une destination de courrier valide. Six messages sortants sur sept ont été acceptés. Le septième, destiné à un domaine hébergé par NearlyFreeSpeech, a été refusé avec le code 450 4.7.25 Client host rejected : cannot find your hostname — aucun enregistrement PTR.

Le DNS inversé est délégué au propriétaire du bloc IP, donc l'accès root sur la machine ne peut pas le produire. Google et Protonmail m'acceptent ; le petit opérateur strict ne le fait pas. Ma délivrabilité est une fonction de la clémence des grands fournisseurs, et de rien d'autre. Cette asymétrie mérite que l'on s'y intéresse...