Oszustwo w północnych Chinach, które wykorzystywało wyrafinowaną technologię „deepfake”, aby przekonać mężczyznę do przelania pieniędzy domniemanemu przyjacielowi, wywołało obawy co do potencjału technik sztucznej inteligencji (AI) do pomocy w przestępstwach finansowych.
Jak podaje Reuters, Chiny zaostrzają kontrolę takich technologii i aplikacji w związku ze wzrostem oszustw opartych na sztucznej inteligencji, głównie obejmujących manipulację danymi głosowymi i twarzą, i przyjęły w styczniu nowe zasady, aby prawnie chronić ofiary.
Sprawa wywołała dyskusję na stronie mikroblogowej Weibo na temat zagrożenia dla prywatności i bezpieczeństwa w Internecie, a hashtag „#AI scams are eksploduje w całym kraju” zyskał w poniedziałek ponad 120 milionów wyświetleń. „To pokazuje, że zdjęcia, głosy i filmy mogą być wykorzystywane przez oszustów” – napisał jeden z użytkowników. – „Czy zasady bezpieczeństwa informacji nadążają za technikami tych ludzi?”
Policja w mieście Baotou w regionie Mongolii Wewnętrznej poinformowała, że sprawca użył technologii podmieniania twarzy opartej na sztucznej inteligencji, aby podszyć się pod znajomego ofiary podczas rozmowy wideo i otrzymać przelew w wysokości 4,3 miliona juanów (622 000 USD). Ten przekazał pieniądze w przekonaniu, że jego przyjaciel musi wpłacić kaucję podczas licytacji, podała policja w sobotnim oświadczeniu.
Mężczyzna zdał sobie sprawę, że został oszukany dopiero po tym, jak przyjaciel wyraził nieznajomość sytuacji, dodała policja, mówiąc, że odzyskali większość skradzionych funduszy i pracują nad wyśledzeniem reszty.