一項對英國和美國400位首席信息安全官的最新調查顯示，72%的人認為AI解決方案會導致安全漏洞。然而，80%的人表示他們計劃使用AI工具來對抗AI。這再次提醒我們，AI既有希望也有威脅。一方面，AI可以創造前所未有的安全安排，使網絡安全專家能夠對黑客發起進攻。另一方面，AI將導致大規模自動化攻擊和極高的復雜性。對于夾在這場戰爭中的科技公司來說，關鍵問題是他們應該多擔心以及該如何保護自己？

當前的網絡安全態勢

根據安全公司Cobalt的數據，預計2024年全球網絡犯罪將給全球經濟造成9.5萬億美元的損失。75%的安全專業人員觀察到過去一年中網絡攻擊的增加，這些攻擊的成本可能每年上升至少15%。對于企業來說，情況也相當嚴峻——IBM報告稱，2023年平均數據泄露成本為445萬美元，自2020年以來增加了15%。

在此背景下，網絡安全保險的成本上升了50%，企業現在在風險管理產品和服務上花費了2150億美元。最容易受到攻擊的是醫療、金融和保險組織及其合作伙伴。科技行業由于初創公司處理大量敏感數據、資源有限以及注重快速擴展的文化，特別容易受到這些挑戰的影響，往往以犧牲IT基礎設施和程序為代價。

區分AI攻擊的挑戰

最引人注目的一項統計數據來自《CFO雜志》——報告稱，85%的網絡安全專業人員將2024年網絡攻擊的增加歸因于惡意分子使用生成式AI。然而，仔細觀察，你會發現沒有明確的統計數據表明這些攻擊是哪些，以及它們的實際影響是什么。這是因為我們面臨的最緊迫問題之一是，很難確定網絡安全事件是否是通過生成式AI造成的。它可以自動生成網絡釣魚郵件、社交工程攻擊或其他類型的惡意內容。

由于其目標是模仿人類內容和響應，因此很難將其與人類制作的內容區分開來。結果是，我們尚不知道生成式AI驅動攻擊的規模或其有效性。如果我們還不能量化問題，就很難知道我們應該多么擔憂。

保護措施和更大的網絡安全風險

對于初創公司來說，最好的行動方案是關注和緩解一般威脅。所有證據表明，現有的網絡安全措施和以最佳實踐數據治理程序為基礎的解決方案足以應對現有的AI威脅。

有點諷刺的是，組織面臨的最大存在威脅并不一定來自于被惡意使用的AI，而是來自于員工的粗心使用或未能遵循現有的安全程序。例如，員工在使用ChatGPT等服務時共享敏感業務信息，可能會導致這些數據在以后被檢索，從而導致機密數據泄露和隨后的黑客攻擊。減少這一威脅意味著要有適當的數據保護系統，并為生成式AI用戶提供更好的教育，讓他們了解所涉及的風險。

教育和提高意識

教育包括幫助員工了解AI的當前能力，特別是在應對網絡釣魚和社交工程攻擊方面。最近，一家大公司的財務主管在一次深度偽造的電話會議上被冒充公司CFO的騙子騙走了2500萬美元。雖然聽起來很可怕，但仔細閱讀這起事件，你會發現從AI的角度來看，這并不是特別復雜，只是比幾年前的一些詐騙手法稍高一籌——當時很多公司（其中很多是初創公司）被模仿其CEO的電子郵件地址的詐騙手段騙走了錢。在這兩種情況下，如果遵循基本的安全和合規檢查，甚至只是常識，這些騙局很快就會被揭穿。教導員工如何識別AI生成的聲音或外觀以及如何識別這些攻擊，與擁有健全的安全基礎設施同樣重要。

簡而言之，AI對網絡安全構成了明顯的長期威脅，但在我們看到更高的復雜性之前，如果嚴格遵循現有的安全措施，它們是足夠的。然而，企業需要繼續遵循嚴格的網絡安全最佳實踐，隨著威脅的演變不斷審查其流程并教育員工。網絡安全行業已經習慣了新的威脅和惡意行為的方法，這并不新鮮——但企業不能使用過時的安全技術或程序。