AI大模型的快速向前奔跑，讓我們見識到了AI的無限可能，但也展示了AI在虛假信息、深度偽造和網絡攻擊方面的潛在威脅。
據安全分析平臺Netenrich報道，近日，一款名為FraudGPT的AI工具近期在暗網上流通，并被犯罪分子用于編寫網絡釣魚電子郵件和開發惡意軟件。
黑客在售賣頁表示，該工具可用于編寫惡意代碼、創建出“一系列殺毒軟件無法檢測的惡意軟件”、檢測網站漏洞、自動進行密碼撞庫等，并聲稱“該惡意工具目前已經售賣了超過3000份”。
01 惡意AI工具FraudGPT：可自動生成多種網絡攻擊代碼
據報道，FraudGPT的運作方式是通過草擬一封電子郵件，以高度可信的方式誘使收件人單擊所提供的惡意鏈接。它的主要功能包括：
創建釣魚網站頁面
FraudGPT可以生成看似真實的網絡釣魚電子郵件、短信或網站，誘騙用戶泄露敏感信息，例如登錄憑據、財務詳細信息或個人數據；
找到最容易受害的目標
聊天機器人可以模仿人類對話，與毫無戒心的用戶建立信任，導致他們在不知不覺中泄露敏感信息或執行有害操作；
創建無法檢測的惡意軟件
FraudGPT可以創建欺騙性消息，引誘用戶點擊惡意鏈接或下載有害附件，導致其設備感染惡意軟件；
編寫欺詐的短信、郵件
人工智能驅動的聊天機器人可以幫助黑客創建欺詐性文件、發票或付款請求，導致個人和企業成為金融詐騙的受害者。
02 惡意AI攻擊工具：降低網絡犯罪的進入門檻
事實上，AI工具降低了網絡犯罪分子的進入門檻，FraudGPT已經不是第一起案例。
即便Claude、ChatGPT 、Bard等AI提供商會采取一些措施來防止他們的技術被用于不良目的，但隨著開源模型的崛起，犯罪分子的惡意行為很難被遏制。
03 當犯罪門檻降低企業如何防范
毋庸置疑，無論是WormGPT ，還是FraudGPT ，這類極具威脅性的AI工具，都在為促進網絡犯罪和詐騙“賦能”。
安全分析平臺Netenrich曾表示：“這項技術會降低網絡釣魚電子郵件和其他詐騙的門檻。
隨著時間的推移，犯罪分子將找到更多方法來利用我們發明的工具來增強他們的犯罪能力。”
當AI工具的邪惡面被淋漓盡致的展現，再加之網絡攻擊「低門檻」，加強防御策略顯得尤為重要。
為此，有專家針對個人和企業，提出了一些可采取的關鍵措施，以確保免受 FraudGPT和類似AI工具威脅的影響。
對在線通信保持警惕
不要亂點擊陌生的網站鏈接、郵件，安裝未知的軟件。同時，針對需要驗證、涉及敏感信息、金融交易的意外電子郵件，應通過官方渠道加以驗證。
及時了解網絡安全措施
定期更新安全軟件、安裝補丁并使用信譽良好的防病毒程序來防范潛在威脅。同時，也需要了解最新的網絡安全實踐，增強網絡攻擊的防御意識。
警惕未知的鏈接和附件
不要點擊未知來源的鏈接或打開附件。FraudGPT可以生成指向網絡釣魚網站的逼真URL，因此，在點擊任何鏈接之前驗證發件人的身份至關重要。
教育和培訓員工
對于企業來說，網絡安全最佳實踐的員工培訓至關重要。確保員工了解潛在威脅并知道如何識別可疑活動。如果員工遇到任何可疑消息，應該立即向IT部門報告。
04 結語
AI大模型的快速發展在給諸多領域帶來積極影響的同時，隨著模型能力的不斷提升，也被運用在惡意活動中，破壞力與日俱增。
但無論是FraudGPT、WormGPT等惡意軟件的出現，還是大模型總會出現的幻覺、越獄等問題，其實都不是為了告訴我們AI有多么危險，而是在提醒我們需要更加專注于解決現階段AI領域所存在的諸多問題。
