John pan

  繼WormGPT一個對惡意軟體數據進行訓練的ChatGPT克隆之後，一種名為FraudGPT新型生成式AI駭客工具出現了，至少還有一個正在開發中，據稱該工具是基於Google AI實驗Bard。這兩個AI驅動的機器人都是同一個人的作品，該人似乎深入參與了提供專門針對惡意目的，從網路釣魚和社會工程到利用漏洞和創建惡意軟體之訓練聊天機器人的遊戲。FraudGPT於7月25日推出，並由用戶名為CanadianKingpin12的用戶在各種駭客論壇上做廣告，他表示該工具是針對欺詐者、駭客和垃圾郵件發送者。

下一代網路犯罪聊天機器人
  網路安全公司SlashNext研究人員的一項調查顯示，CanadianKingpin12正在積極使用來自暗網的不受限制的數據集或基於為打擊網路犯罪而開發的複雜大型語言模型來訓練新的聊天機器人。

  CanadianKingpin12在私下談話中表示，他們正在開發DarkBART—Google會話生成AI聊天機器人“黑暗版”。

  研究人員還了解到，廣告商還可以使用另一種名為DarkBERT的大型語言模型，該模型由韓國研究人員開發，並接受暗網數據訓練，但目的是打擊網路犯罪。

  DarkBERT可以根據相關電子郵件地址向學者開放，但SlashNext強調，這一標準對於駭客或惡意軟體開發人員來說不是挑戰，他們只需3美元左右即可訪問學術機構的電子郵件地址。 

SlashNext研究人員表示，CanadianKingpin12說DarkBERT機器人“在暗網專門訓練的類別中優於所有機器人”。惡意版本已調整為：
•創建針對人們的密碼和信用卡詳細信息的複雜網路釣魚活動。
•執行高級社會工程攻擊以獲取敏感信息或未經授權訪問系統和網路。
•利用計算機系統、軟體和網路中的漏洞。
•創建和分發惡意軟體。
•利用零日漏洞獲取經濟利益或破壞系統。

  正如CanadianKingpin12在與研究人員的私信中所說，DarkBART和DarkBERT都將能夠實際訪問網際網路，並與 Google Lens無縫內建以進行圖像處理。為了展示DarkBERT惡意版本的潛力，開發人員製作了以下視頻：

  目前尚不清楚CanadianKingpin12是否修改了DarkBERT合法版本中的代碼，或者只是獲得了模型的訪問權限並簡單地利用它進行惡意使用。無論DarkBERT的起源和威脅行為者聲明的有效性如何？使用生成式AI聊天機器人的趨勢在增長，採用率也可能會增加，因為它可以為能力較弱的威脅行為者或那些能力較差的威脅行為者提供簡單的解決方案，駭客想將業務擴展到其他地區，但缺乏語言能力的人。SlashNext研究人員認為，駭客已可使用這兩種此類工具，這些工具可幫助執行高級社會工程攻擊並在不到一個月時間開發這些攻擊，“這凸顯了惡意AI對網路安全和網路犯罪格局的重大影響”。

謝謝收看