Un employé d’une entreprise basée à Hongkong s’est vu ordonné d’effectuer quinze transactions bancaires par ses supérieurs... qui étaient en fait des avatars complexes générés par intelligence artificielle. Le tout au profit d’escrocs.
Pourquoi ? À moins de répéter cette situation ? Pour moi c’est déjà plus ou moins en cours.
Si on ne veut pas que ça recommence, les banques vont surement mettre en place de nouveaux protocoles qui vont bloquer ce transfert et le mettre en file d’attente avec accord d’une seconde personne en F2F.
Ou bien établir telle ou telle action sera interdite tant que…Les resto et bars parfois interdisent l’usage du smartphone. D’autres refusent de lire l’information car c’est trop violent, trop réccurrent.
Je vois plus ou moins cette emergence no-tech avec par exemple les dumbphones, cad des personnes qui vont aller à contre courrant de la technologie et établir de nouvels relations par rapport aux médias. Ou encore la low-tech qui va de pair avec le mouvement écologique.
Ça a déjà eu lieu dans une faible proportion. Si ça grandira ? Tout depend de leur usage. Par exemple les IA qui dénudent des lycéennes pourrait créer un mouvement anti-selfie ? Ou interdire le portable lors de sortie, fete ou à l’école ? Le limiter jusqu’à 16 ans ?
J’en sais rien mais ce sont des pistes que nous envisagerions si ça prend de l’ampleur. C’est à dire comment nous nous protègeons. Expliquer ? Sanctionner si c’est incontrolable ? Doubler les tarifs ?
Après, c’est pas quelque chose que j’invente mais une conjecture de petites choses, ya meme des études qui vont dans le sens de l’interdiction des écrans jusqu’à 16 ans pour le développement cognitif.
Ou encore la low-tech qui va de pair avec le mouvement écologique.
Sauf qu’ici, ses collègues sont a Londres. Pour le “F2F”, il faudrait prendre l’avion, donc incompatible avec l’écologie.
Il y a eu des disfonctionnement multiples pour en arriver là, c’est du social engineering, certes avec de la technologie poussé, mais ce genre d’escroquerie est vielle comme le monde.
Les exemples sont multiples.
Ici ca montre juste une grosse faille dans les process de cette entreprise.
L’employées a rejoins un appel externe, a envoyé de l’argent a un compte jamais vus avant, etc…
Merci, C’est vrai tu as raison. Après je me pose quand meme la question car avec les IA c’est beaucoup plus facile d’avoir une production de masse systèmique. D’innonder les réseaux à grand V et de produire toute sorte de contenu. :)
Quant au transfert, on peut imaginer que la banque décide de compartimenter la gestion localement et de bloquer la gestion gjobal.
C’est à dire la fin du world wide web au profit de réseaux locaux avec tor ou gemini:// enfin là c’est futuriste mais tim berner-lee pour le web 3.0 a imaginé des pod de données où tu donnes accès ou non. Un truc comme ça.
D’innonder les réseaux à grand V et de produire toute sorte de contenu. :).
C’est pas nouveau non plus, mais c’est vrai que ça permet une ampleur plus grande, et c’est plus compliqué de filtrer.
C’est pour ca que j’espère un système de recommandation/filtre plus poussé.
Ça fait des années qu’il y a des vidéos généré procéduralement, plus ou moins automatiquement, denoncé ici: https://youtu.be/McM3CfDjGs0?si=nu3JUCfnEX4Ro10t
Le concept est simple:
Le spammeur délégue tout, voir automatise:
Sur une plateforme freelance, il paye quelqu’un pas chère pour écrire le script de la vidéo, quelq’un d’autre pour le lire (si c’est pas du tts), et ensuite quelqu’un pour monter.
Évidemment la plupart des freelancer qui font ça sont dans des pays du tiers monde et sont payé avec un salaire dérisoire.
La différence maintenant, c’est que ChatGPT peut faire tout a la place des freelancer.
C’est surtout que percer sur internet va devenir de plus en plus compliqué si t’es noyé dans le spam.
Je pense pas du tout que ça va arriver.
Pourquoi ? À moins de répéter cette situation ? Pour moi c’est déjà plus ou moins en cours.
Si on ne veut pas que ça recommence, les banques vont surement mettre en place de nouveaux protocoles qui vont bloquer ce transfert et le mettre en file d’attente avec accord d’une seconde personne en F2F.
Ou bien établir telle ou telle action sera interdite tant que…Les resto et bars parfois interdisent l’usage du smartphone. D’autres refusent de lire l’information car c’est trop violent, trop réccurrent.
Je vois plus ou moins cette emergence no-tech avec par exemple les dumbphones, cad des personnes qui vont aller à contre courrant de la technologie et établir de nouvels relations par rapport aux médias. Ou encore la low-tech qui va de pair avec le mouvement écologique.
Ça a déjà eu lieu dans une faible proportion. Si ça grandira ? Tout depend de leur usage. Par exemple les IA qui dénudent des lycéennes pourrait créer un mouvement anti-selfie ? Ou interdire le portable lors de sortie, fete ou à l’école ? Le limiter jusqu’à 16 ans ?
J’en sais rien mais ce sont des pistes que nous envisagerions si ça prend de l’ampleur. C’est à dire comment nous nous protègeons. Expliquer ? Sanctionner si c’est incontrolable ? Doubler les tarifs ?
Après, c’est pas quelque chose que j’invente mais une conjecture de petites choses, ya meme des études qui vont dans le sens de l’interdiction des écrans jusqu’à 16 ans pour le développement cognitif.
Sauf qu’ici, ses collègues sont a Londres. Pour le “F2F”, il faudrait prendre l’avion, donc incompatible avec l’écologie.
Il y a eu des disfonctionnement multiples pour en arriver là, c’est du social engineering, certes avec de la technologie poussé, mais ce genre d’escroquerie est vielle comme le monde.
Il y a 3 ans, par téléphones (avec clonage de voix) : https://www.forbes.com/sites/thomasbrewster/2021/10/14/huge-bank-fraud-uses-deep-fake-voice-tech-to-steal-millions/
Tu vas me dire, que ca utilise un clonage de voix par IA? Mais il n’y a pas besoin de ca:
Il y a 11 ans, par téléphone, sans technologie autre qu’un téléphone: https://www.ouest-france.fr/bretagne/rennes-35000/rennes-au-culot-les-escrocs-soutirent-14-millions-deuros-une-entreprise-408057
Les exemples sont multiples.
Ici ca montre juste une grosse faille dans les process de cette entreprise.
L’employées a rejoins un appel externe, a envoyé de l’argent a un compte jamais vus avant, etc…
Merci, C’est vrai tu as raison. Après je me pose quand meme la question car avec les IA c’est beaucoup plus facile d’avoir une production de masse systèmique. D’innonder les réseaux à grand V et de produire toute sorte de contenu. :)
Quant au transfert, on peut imaginer que la banque décide de compartimenter la gestion localement et de bloquer la gestion gjobal.
C’est à dire la fin du world wide web au profit de réseaux locaux avec tor ou gemini:// enfin là c’est futuriste mais tim berner-lee pour le web 3.0 a imaginé des pod de données où tu donnes accès ou non. Un truc comme ça.
C’est pas nouveau non plus, mais c’est vrai que ça permet une ampleur plus grande, et c’est plus compliqué de filtrer.
C’est pour ca que j’espère un système de recommandation/filtre plus poussé. Ça fait des années qu’il y a des vidéos généré procéduralement, plus ou moins automatiquement, denoncé ici: https://youtu.be/McM3CfDjGs0?si=nu3JUCfnEX4Ro10t
Le concept est simple:
Le spammeur délégue tout, voir automatise:
Sur une plateforme freelance, il paye quelqu’un pas chère pour écrire le script de la vidéo, quelq’un d’autre pour le lire (si c’est pas du tts), et ensuite quelqu’un pour monter.
Évidemment la plupart des freelancer qui font ça sont dans des pays du tiers monde et sont payé avec un salaire dérisoire. La différence maintenant, c’est que ChatGPT peut faire tout a la place des freelancer.
C’est surtout que percer sur internet va devenir de plus en plus compliqué si t’es noyé dans le spam.
Intéressant, merci 😁👍