Chiny zaostrzyły kontrolę nad takimi technologiami i aplikacjami w związku ze wzrostem liczby oszustw opartych na sztucznej inteligencji, obejmujących głównie manipulację danymi głosowymi i danymi twarzy. W styczniu przyjęto nowe przepisy w celu prawnej ochrony ofiar. Policja w mieście Baotou, w prowincji Mongolia Wewnętrzna poinformowała, że oszust wykorzystał technologię zamiany twarzy opartą na sztucznej inteligencji, aby podszyć się pod przyjaciela ofiary podczas rozmowy wideo - podaje Reuters. Oszust otrzymał przelew w wysokości 4,3 miliona juanów (622 000 dolarów). Ofiara przekazała pieniądze myśląc, że jego przyjaciel musi dokonać wpłaty podczas procesu licytacji - podała policja w sobotnim oświadczeniu. Mężczyzna zdał sobie sprawę, że został oszukany dopiero po tym, jak jego przyjaciel przekazał, że nie ma pojęcia o całej sytuacji. Dyskusja wokół zagrożeń spowodowanych przez AI Sprawa wywołała dyskusję w serwisie mikroblogowym Weibo na temat zagrożenia prywatności i bezpieczeństwa w internecie. Hashtag "#AI scams are exploding across the country" zyskał w poniedziałek ponad 120 milionów wyświetleń. "To pokazuje, że zdjęcia, głosy i filmy mogą być wykorzystywane przez oszustów" - napisał jeden z użytkowników.