生成式AI從提升工作效率的神器，竟變成了企業和網友的心腹大患？

日前安全公司Check Point發布報告稱，一款名為“FunkSec”的木馬型勒索病毒從2024年底至今，陸續攻擊了85家企業。解析代碼后研究人員發現該病毒基于Rust編程語言，語法注釋非常流暢，但攻擊模式較為原始落后，判斷該病毒大概率由AI生成。

隨著調查的深入，研究人員還發現有黑客在地下論壇售賣FunkSec病毒。這種情況表明，黑客可以利用生成式AI大規模制造病毒牟利。科技是一把雙刃劍，生成式AI在提高工作效率、生活便利度之外，潛在的風險也逐漸顯露了出來。

生成式AI帶來了新的安全問題

自從OpenAI發布ChatGPT后，使用生成式AI開發病毒或生成其他有害內容，用于攻擊企業和個人計算機就已十分常見。安全公司Vipre公布的數據顯示，2023年第二季度商務郵件欺詐攻擊數量相較2022年增加了20%，其中接近一半由AI生成。

企業安全威脅研究團隊Imperva Threat Research在報告中指出，2024年4月到9月，零售網站平均每天要遭受569884次攻擊，ChatGPT、Claude、Gemini等AI工具，常被用于進行DDoS（分布式拒絕服務攻擊）和業務邏輯濫用等行動。

信息咨詢公司Gartner表示，AI在網絡攻擊中的應用已連續三個季度成為企業面臨的最大風險。在接受該公司訪問的286位高級風險審計人員中，80%的受訪者對AI可能帶來的網絡攻擊表示擔憂。

（圖源：豆包AI生成）

生成式AI之所以能夠成為黑客攻擊企業或個人的強力工具，原因不在于其生成的病毒多么強大，而在于生成式AI大幅降低了成為黑客的門檻。

Check Point研究人員透露，售賣FunkSec病毒的黑客們技術能力并不強，他們甚至在論壇發帖詢問“如何成為黑客”。這群黑客炫耀的攻擊企業和數據竊取等“佳績”，實際上來自其他黑客的犯罪行動，沒有生成式AI協助，他們大概率連攻擊方式原始落后的FunkSec都開發不出來。

2024年10月25日，據日本《讀賣新聞》報道，當地一名男子因使用生成式AI制造勒索病毒，被判處有期徒刑三年、緩刑四年。該事件也是日本首個因使用生成式AI制造有害內容被刑事處罰的案件。

在庭審過程中，案犯交代自己不懂任何IT知識，若沒有生成式AI則無法制造病毒，并承認用生成式AI制造病毒的過程極其簡單。一個完全不懂IT知識的人，都可以利用生成式AI制造病毒并獲利，可見在生成式AI時代，黑客的門檻有多么低，人人都擁有成為黑客的能力。

（圖源：豆包AI生成）

更關鍵的是，日本IT解決方案提供商三井物產Secure Directions的高級惡意軟件分析技術員吉川孝志直言，生成式AI雖然可以設置限制，不直接生成有害內容，但存在規避限制的方法，網上可以輕松找到。

另外，還有開發者開發出了專用于生成惡意代碼的AI大模型，如WormGPT、PoisonGPT等。在不法分子頻繁利用AI攻擊個人和企業，黑客門檻幾乎等同于不存在的今天，企業和個人保護自己的信息安全將成為難題。

只有AI，才能對抗AI攻擊？

抵御生成式AI所制造病毒的攻擊前，首先我們要明白病毒程序攻擊的方式。在《威脅洞察（Threat Insights）》報告中，惠普公司指出，受害者遭遇攻擊的主要方式為網絡釣魚電子郵件或惡意廣告，例如在我們搜索某些工具時，誘導我們進入虛假網站，下載包含病毒的文件，某些不法分子甚至將病毒程序隱藏在SVG（可縮放矢量圖形）中。

惠普公司還在報告中表示，2024年第二季度，有12%帶有有害信息的電子郵件繞過了檢測系統，其中61%來自附件，18%來自瀏覽器下載，21%來自移動存儲設備，而ZIP文件占惡意文件總量的39%。

（圖源：豆包AI生成）

過去常有網友表示，電腦從來不安裝殺毒程序，不去瀏覽非法網站，電腦就不會中病毒。然而在惡意程序數量飛速增長，假網站無處不在的今天，用戶中招的概率也將大幅提升。對抗生成式AI批量制造病毒程序的關鍵，就在于合理利用AI。

從病毒的攻擊方式來看，將AI融入殺毒軟件、瀏覽器、搜索引擎，或許能夠幫助個人用戶構建更堅實的防火墻。殺毒軟件加入AI功能后，可以智能對文件進行掃描分析，結合生成式AI編程的特性，提高病毒的識別能力，從而攔截含有病毒的文件。

瀏覽器的責任同樣重大，與AI融合后，要盡量做到幫助用戶分析網址的風險，并對網站內的各類文件，包括SVG圖像進行檢測，從源頭減少用戶下載到含有病毒文件的可能性。我們搜索一些東西時，經常會彈出許多廣告內容和虛假網站，對用戶的上網體驗造成了不利影響，增加了用戶被病毒攻擊的風險。搜索引擎同樣需要利用AI技術，排除虛假網站。

（圖源：豆包AI生成）

相較于個人，企業面臨的風險更大，也是不法分子植入病毒和勒索的主要對象。因而企業不但要增強安全軟件的能力，利用AI識別和抵御生成式AI制造的病毒程序，還要對網絡隔離和訪問控制，必要時對備份數據和機密數據進行物理隔離。同時，企業也要及時對員工進行培訓，避免因員工的錯誤操作將病毒引入公司內部，而造成財產損失。

自從1982年世界上第一個真正意義上的計算機病毒Elk Cloner誕生以來，近半個世紀的時間中，互聯網公司與黑客之間的對決就從未停止過。21世紀初中國互聯網飛速發展之時，也出現過影響巨大的熊貓燒香事件，前幾年的勒索病毒肆虐，更令無數用戶和企業遭殃。

利用生成式AI制造病毒，是AI時代黑客們新的攻擊手段。網絡安全公司也將以AI對抗AI，利用AI識別病毒的代碼特征加以攔截，保護用戶的上網安全。

防御AI攻擊，不能只靠技術

利用生成式AI制造病毒和防御病毒攻擊，本身都會消耗大量資源，可能會拖累企業的正常發展。生成式AI大幅降低了制造病毒的門檻，導致普通人也可以生成病毒，未來病毒、虛假網站等可能會指數級上升，導致病毒隨處可見，對于整個互聯網行業的發展也絕非好事。

普通網民可利用AI幫忙規避部分潛在的風險，例如需要查詢一些信息時，可以直接向AI大模型提問，并通過AI大模型提供的鏈接進入相應的網址，若要下載一些軟件，也可以讓向AI索要官網網址。經過AI篩選的內容，安全性更有保障。

（圖源：豆包AI生成）

國內互聯網的安全程度比較高，盡管也有不少下載站、虛假網站等，但大多可以輕松識別，而且360、騰訊電腦管家等主流殺毒軟件，還會提供軟件下載渠道，可幫助用戶規避一定的風險。

企業方面情況更為復雜，但網絡保護措施也更加健全，考慮到勒索病毒肆虐期不少企業中招，這些企業也需要招募更多人才或與網絡安全公司加深合作，以應對AI時代的病毒攻擊。

不過僅依靠AI抵御病毒攻擊能夠起到的效果有限，百密終有一疏，防賊千日和作賊千日付出的資源不對等。唯有出臺更嚴格、更詳細的規定，限制和打擊利用生成式AI制造病毒的不法分子，方能徹底消滅黑客群體。

相關部門已在不遺余力打擊利用網絡犯罪的不法分子，公安部網安局公布的數據顯示，2024年全力推進打擊網絡黑客犯罪專項工作，偵破案件1600余起，抓獲犯罪嫌疑人4900余名。在相關部門的打擊下，國內黑客的生存空間只會越來越小，我們的上網安全也將更有保障。

美國當地時間1月10日，CES 2025落下帷幕，第二次派出官方報道團，對CES進行立體無死角的報道，一共輸出41條內容，內容整體超過10萬字，涵蓋了AI硬件新物種、AI電視、AI家電、AI眼鏡、AI PC、AI+AR、智能清潔、AI芯片、AI PC、教育硬件、AI汽車、智能配件、可穿戴、AI機器人、AI耳機、智能鏡、AI存儲等領域。歡迎全網搜索“CES”獲取一手報道，洞見AI硬科技未來。