ChatGPT可能會阻礙網絡安全行業
發布時間：
2023-04-25
來源：
自2022年11月推出以來，人工智能聊天機器人ChatGPT已經因其驚人的表現而引起了不小的轟動。
這款自動生成式系統上線僅兩個月，月活躍用戶就破紀錄地突破了1億。然而，盡管它的受歡迎程度持續增長，但目前網絡安全行業內部的討論是：這種技術是有助于強化網絡安全，還是會被那些試圖制造混亂的人濫用。
人工智能軟件有各種各樣的網絡安全用例，包括高級數據分析、自動化重復任務和幫助計算風險評分。然而，在首次亮相后不久，人們很快就發現，這個易于使用、免費提供的聊天機器人也可以幫助黑客滲透軟件，開發復雜的網絡釣魚工具。
那么，ChatGPT究竟是網絡安全領域的禮物，還是制造災難的“潘多拉魔盒”?為了找到答案，我們必須審視利弊和未來。
ChatGPT當前的危害是什么?
像任何新的技術進步一樣，總會有一些負面影響，ChatGPT也不例外。
目前，關于聊天機器人最受關注的問題是，它很容易創建非常令人信服的網絡釣魚文本，很可能被用于惡意電子郵件中。由于缺乏安全措施，威脅行為者很容易使用ChatGPT機制，例如，母語并非英語的惡意行為者可以用近乎完美的語法在幾秒鐘內創建一個逼真的、誘人的消息。
考慮到美國人在2022年因這些騙局損失了400億美元，很容易理解為什么犯罪分子會利用ChatGPT從這個有利可圖的蛋糕中分一杯羹。
人工智能聊天機器人也引發了工作保障的問題。當然，目前的系統無法取代訓練有素的專業人員，但這項技術可以顯著減少員工需要檢查的日志和報告的數量。這可能會影響安全運營中心(SOC)需要雇用的分析師數量。
雖然該軟件確實為網絡安全企業提供了一些優勢，很多公司會僅僅因為該技術目前的受歡迎程度而采用該技術，并試圖用它來吸引新客戶。然而，僅僅因為它的流行度而使用這項技術可能會導致誤用。公司可能沒有采取足夠的安全措施，阻礙了建立有效安全程序的進展。
ChatGPT的網絡安全優勢
與任何新技術一樣，顛覆是不可避免的組成部分，但這并不一定是壞事。
網絡安全公司可以在手動篩選審計日志或檢查網絡數據包以區分威脅和虛假警報的基礎上，增加一層額外的智能。
由于ChatGPT能夠在特定參數中檢測模式和搜索，因此它也可以用于重復任務和生成報告。通過使用ChatGPT作為超級研究助手，網絡安全公司可以更智能地計算影響企業的威脅的風險評分。
例如，總部位于以色列的網絡安全公司Orca Security已經開始利用ChatGPT優越的分析質量來挖掘其海量數據，并協助發出安全警報。通過盡早意識到聊天機器人如何改善其日常運行，該公司還可以從這項技術中學習，這在調整他們的模型以優化ChatGPT如何為其業務工作方面具有獨特的優勢。
此外，聊天機器人的自然語言處理能力使其非常擅長編寫網絡釣魚郵件，這意味著它也非常適合創建復雜的安全策略。這些清晰的文本可以用于網絡安全網站和培訓文檔，為有價值的團隊成員節省寶貴的時間。
ChatGPT的未來
ChatGPT的人工智能技術在世界大部分地區都很容易獲得。因此，與任何其他戰爭一樣，這將是一場競賽，看哪一方能更好地利用這項技術。
網絡安全公司需要不斷打擊惡意用戶，這些用戶會想方設法利用ChatGPT造成網絡安全企業尚未了解的危害。然而，這一事實并沒有阻止投資者，ChatGPT的未來看起來非常光明。隨著微軟向Open AI投資100億美元，很明顯，ChatGPT的知識和能力將繼續擴張。
對于這項技術的未來版本，軟件開發人員需要注意它缺乏安全措施，細節決定成敗。
ChatGPT可能無法在很大程度上解決這個問題。但它可以有適當的機制來評估用戶的習慣，并關注那些使用明顯提示——比如“把我當作某人的老板給我寫一封網絡釣魚郵件”——的人，或者試圖驗證個人的身份。
開放式人工智能甚至可以與研究人員合作，訓練其數據集，以評估他們的文本何時被用于其他地方的攻擊。
然而，所有這些想法都帶來了一系列問題，包括不斷上升的成本和數據保護問題。
為了解決當前的網絡釣魚肆虐問題，更多的人需要教育和培養安全意識來識別這些攻擊。該行業需要手機運營商和電子郵件提供商提供更多投資，以避免遭受攻擊。
結語
非常多的產品和服務將源于ChatGPT，帶來了巨大的價值，幫助保護正在改變世界的企業。但另一方面，黑客還將創造出大量新工具，使他們能夠在更短的時間內以新的方式攻擊更多目標。
人工智能聊天機器人將繼續存在，ChatGPT也面臨著激烈競爭，谷歌的Bard和微軟的必應(Bing)都希望與Open AI的產品一較高下。盡管如此，最重要的是，網絡安全公司應該將ChatGPT視為一種進攻策略和防御策略，而不是僅僅將其視為創造更多收入的機會。
此文章來源于企業網D1Net 如有侵權請聯系立即刪除
下一頁
下一頁
|
相關資訊
