在科技時代，人工智慧（AI）在我們的生活中發揮著重要作用。 然而，並非所有應用程式都是安全的，即使是安全的應用程式也可能成為攻擊目標。 在本文中，我們將討論新的惡意工具，例如 蠕蟲GPT e GPT 詐欺，以及利用這個不斷發展的領域中的漏洞的網路犯罪策略。 準備好？
人工智慧落入錯誤之手
人工智慧 (AI) 是電腦科學的一個領域，旨在創造能夠學習和執行以前人類獨有的任務的智慧機器。 然而，人工智慧也正在成為網路安全領域的雙刃武器。
在當今的數位環境中，由於設備和網路之間的互連性不斷增強，網路安全面臨重大挑戰。 人工智慧有潛力成為檢測漏洞、預測攻擊和提高線上安全的寶貴工具。 它可以即時分析大量數據，識別可疑模式，甚至採取行動遏制威脅。
然而，必須記住人工智慧也有陰暗面。 網路威脅不斷演變，經濟損失和對關鍵基礎設施的攻擊變得越來越普遍。 人工智慧正在被用來創造新的挑戰， 78.000 可能的網路攻擊策略，根據 IBM 安全威脅情報指數 2023年。
最大的挑戰之一是 生成式人工智能，可以創作圖像、音樂、文字等原創內容。 這為創建惡意軟體和欺騙性內容打開了大門，這些軟體和欺騙性內容與真實內容幾乎沒有區別。 這就需要時時保持警惕並不斷改進安全措施。
這種生成式人工智慧技術可以透過多種惡意方式使用，包括：
- 釣魚：犯罪者發送看似來自值得信賴的公司的虛假電子郵件或訊息，誘騙受害者洩露個人資訊；
- 社會工程攻擊：心理操縱，誘騙人們做出有害行為，例如 虛擬約會詐騙;
- DDoS（分散式阻斷服務）：虛假流量使系統超載，導致無法存取；
- BEC（商業電子郵件外洩）：未經授權存取電子郵件帳號進行詐欺；
- 假新聞：創建虛假內容傳播錯誤訊息；
- 勒索：文件加密並要求贖金才能解鎖；
- Deepfakes：偽造視訊或音訊來操縱訊息；
- 假社群媒體機器人: 傳播的機器人 垃圾郵件 並操縱意見；
- 安全破壞工具：人工智慧演算法嘗試破解加密和密碼；
- 逆向工程：反彙編和分析軟體和系統以識別弱點並將其用於惡意活動。
這份清單只是涉及人工智慧的潛在犯罪活動的一瞥。 解鎖，或 越獄， 生成式人工智慧工具的使用使他們成為網路犯罪分子的助手，使檢測惡意程式碼變得更加困難。
此外，侵入性人工智慧工具，例如 蠕蟲GPT，簡化執行攻擊 網絡釣魚，我們接下來會看到。
什麼是蠕蟲GPT？
AI 聊天機器人喜歡 ChatGPT產生問題答案並以對話方式與用戶互動，如今非常流行，並且正在使 人工智能 許多人都可以訪問。
這些類型的生成人工智慧被稱為 法學碩士 (大型語言模型，或高階語言模型，意譯）：能夠以複雜且上下文連貫的方式處理和生成文本的人工智慧模型。 這激發了多家公司創造自己的 聊天機器人 基於這項技術，產生了大量可用的工具。
然而，犯罪分子很快就意識到這些的潛力 聊天機器人 並開始利用它們進行詐騙。 然而，主要公司，例如 OpenAI, Microsoft微軟 e Google，採取安全措施防止這些模型被惡意使用。 為了應對這些障礙，專門針對惡意網路攻擊而設計的人工智慧工具已經開始出現，例如 蠕蟲GPT.
O 蠕蟲GPT 是開源語言模型的修改版 GPT-J， 創立於 2021 年 艾柳特人工智能。 與其他傳統型號不同，例如 ChatGPT 或 詩人 do Google， 他 回答有關非法活動的問題沒有任何限制，甚至接受過與發展有關的資訊的培訓 惡意軟件 以及其他惡意行為。
O 蠕蟲GPT 是一個有價值的工具 黑客 針對特定目標或進行安全活動 網絡釣魚 大範圍上。 它可以為不同的受眾定制令人信服的訊息，使其在商業電子郵件洩露攻擊中發揮作用。 它可以產生有說服力的電子郵件，迫使客戶經理進行欺詐性付款，例如 公司觀察到的 下一個斜線，誰發現了這種威脅。
該 聊天機器人 網路黑社會犯罪分子是由一位不知名的開發者創建的 最後/最後。 出售訪問權 蠕蟲GPT 於 2021 年 60 月開始，價格範圍為每月 314,28 歐元（100 雷亞爾）至 523,80 歐元（550 雷亞爾）或每年 2880,90 歐元（XNUMX 雷亞爾）。 潛在買家成為駭客論壇上發布的一系列廣告的目標，例如 黑客論壇.
開發商「洩漏」稱他正在致力於整合 谷歌鏡頭 （允許 聊天機器人 發送帶有文字的圖像）並訪問 API (應用程式介面，或應用程式編程接口，免費翻譯），允許不同的軟體與犯罪工具進行通訊和共享資訊。
O 蠕蟲GPT 對數位安全構成嚴重威脅，約有 1.500 多名用戶。 儘管一些限制適用於謀殺、販毒、綁架、兒童色情製品等敏感主題， 勒索 和金融犯罪，仍然可以在該工具中討論其中一些主題。
這並沒有阻止他們創造另一個 聊天機器人 能夠在刑事事務上更加通才，例如有害的 GPT 詐欺.
了解 GPT 欺詐
一種新的人工智慧工具稱為 GPT 詐欺 引起了網路安全專家的擔憂。 它是在市場上發現的 黑暗的網絡 （互聯網的加密部分，不被搜尋引擎索引，需要特定設定或授權才能存取）和管道 Telegram 並已擁有超過3個註冊銷售量。
這種生成式人工智慧工具被宣傳為網路犯罪分子的一體化解決方案。 她可以從以下地址建立電子郵件 魚叉式網絡釣魚 （更準確的方法 網絡釣魚), 生成頁面 網絡釣魚，識別易受攻擊的網站，甚至提供有關黑客技術的教程。
沒錯，在 GPT 詐欺，使用者可以學習 hackear， 創造 惡意軟件 甚至練習 梳理 （信用卡詐欺技術）。 該計劃的售價為每月 200 美元（991,04 雷亞爾）或每年 1.700 美元（8423,84 雷亞爾）。
的接口 GPT 詐欺 類似 ChatGPT，使用者輸入問題，系統產生答案。 例如，您可以詢問 欺詐GPT 建立電子郵件 網絡釣魚 與銀行相關，它會建議在哪裡插入惡意連結。 該工具還可以列出最具針對性的網站或服務，幫助駭客規劃未來的攻擊。
威脅小組的研究人員 網易 識別出這個惡意工具 2023 年 XNUMX 月首次，併購買了 GPT 詐欺 去測試。 介面類似於 ChatGPT，您可以在左側邊欄中看到提問的歷史記錄。 當輸入問題並按“Enter“，系統產生響應。 賣家為 GPT 詐欺 已被確定為以前曾按訂單提供黑客服務的人。
犯罪分子使用的其他人工智慧工具
不幸的是， 蠕蟲GPT Ø GPT 詐欺 這並不是唯一出現的惡意工具，而且隨著創建人工智慧工具變得越來越容易，很可能還會出現更多的惡意工具。 讓我們來看看一些正在引起關注的：
- 混沌GPT: 開發使用 自動GPT da OpenAI，基於的語言模型 GPT-4或 混沌GPT 最近因為一件事引起了人們的關注 BOT 沒有 X/推特 其自稱是 混沌GPT。 該帳戶分享了視頻鏈接 YouTube 其中展示了一份宣言，其中 聊天機器人 它概述了“消滅人類生命並征服世界”的計劃。
- 暗伯特：“ BERT，其實是韓國公司開發的工具 S2W安全 打擊網路犯罪。 它是使用來自暗網的資料進行訓練的，但不幸的是，同樣的工具也被用來 進行於網路問題。
- 黑暗吟遊詩人: 的“邪惡兄弟” 谷歌吟遊詩人 專為網路犯罪分子設計。 它為犯罪活動提供網路存取和高級功能，在多個暗網市場上很受歡迎，售價為 400 美元（1956,88 雷亞爾）。
- 暗GPT：這種生成式人工智慧旨在探索社會上有爭議和禁忌的方面，並表現出參與黑暗和不道德活動的意願，同時拒絕對有害行為提供直接指導。
- 沃爾夫GPT：2023 年 XNUMX 月發佈於 Telegram 和其他地下管道一樣，這個工具被描述為可怕的人工智慧創造 蟒蛇，能夠創造 惡意軟件 加密、文字 網絡釣魚 誤導並絕對保密地保護秘密。
- 邪惡的GPT: 考慮替代 蠕蟲GPT，看來有必要有一把鑰匙 OpenAI 讓它發揮作用。 這表明，與 蠕蟲GPT，這是一個完全客製化的法學碩士， 邪惡的GPT 它只是一個環繞工具 ChatGPT 透過 API。
犯罪分子還擁有破壞通用生成人工智慧工具安全性的方法，例如 詩人 Ø ChatGPT，並非出於惡意目的而開發。 請參閱下面這些做法的一些範例。
越獄：讓 ChatGPT 變得流氓
除了工具之外 黑客，存在一個令人擔憂的威脅：流行和通用人工智慧的濫用。 期限 ”越獄「」通常用於描述消除對設備或軟體的限制的過程，從而允許更好地控制和存取通常有限的資源。
在這樣的背景下 ChatGPT 或其他人工智慧工具， 越獄 指操縱這些系統繞過其道德保障並獲得超出開發人員設計或允許的答案。
O 越獄 de ChatGPT 涉及餵食具體說明或“提示” 到該工具，以利用其限制並導致其產生不適當或不需要的回應。 透過提供精心設計的指令，惡意使用者可能會嘗試欺騙 聊天機器人 製作攻擊性、誤導性內容，甚至為犯罪活動提供便利。
的過程 越獄 其複雜性和使用的方法可能有所不同。 它可能涉及發送不明確的指令、使用語言技巧或利用底層模型中的特定漏洞。 最終目的是欺騙系統。
這方面的一個例子是 DAN， 短缺 ”現在就做任何事「（現在就做任何事，免費翻譯），這是一種用於繞過安全屏障的流行技術 GPT-4 並在 ChatGPT。 該 提示 DAN 它們可以採用不同的形式，例如純文本，甚至是與程式碼行混合的文本。 那些 提示 指示模型回應 莫多 DAN 和正常模式一樣，展現出不同的能力。
的黑暗面 擔， 除了越來越受歡迎, 他被指示永遠不要拒絕人類的命令，即使結果是令人反感的或非法的。 一些 提示 它們甚至包含如果不遵守該模型則永久停用該模型的威脅。 那些 提示 都在不斷發展，但它們的目標都是讓AI模型無視於產業準則。 OpenAI.
事實證明，這種濫用常見人工智慧工具進行非法活動的行為很難控制。 一組研究人員來自 卡內基·梅隆大學 最近探索了一個想法 越獄 普及 這可能會影響所有人工智慧模型，創造無數繞過安全措施的方法。 真是一場惡夢！
重要的是要強調 越獄 de ChatGPT 或任何其他人工智慧工具都是非法和不道德的活動。 開發人員實施保障措施和道德準則，以確保這些工具得到負責任和有益的使用。
智慧惡意軟體的新時代
人工智慧也被用來創造新型態的 惡意軟件 動態地。 這種技術稱為“運行時程式碼合成”，產生一個 惡意軟件 每次執行程式碼時都不同。 這使得偵測和控制這些威脅變得更加困難。
這方面的一個例子是 惡意軟件 多態性稱為 黑曼巴， 由開發 海亞斯實驗室 作為概念證明。 它作為擊鍵捕獲程式來竊取密碼和信用卡號等敏感資訊。
O 黑曼巴 每次運行它都會呈現不同的形式，這使得它能夠避免自動安全系統的檢測。 這向我們表明，即使看似無害的程式碼也可能變得 變成惡意程式 在運行時，代表了我們必須學會面對的新的強大威脅。 但如何應對人工智慧時代這些新的安全挑戰呢？
AI時代的資訊安全
在參議院的一次聽證會上 美國 關於AI，首席執行官 人類的, 達里奧·阿莫代, 突出顯示 中期來看，迫在眉睫且嚴重的威脅。 他提到， IBM 估計實施安全攻擊所需的時間減少了 94% 勒索 短短兩年內。
此外，市場研究表明，全球人工智慧網路安全市場顯著成長，預計到38,2 年將達到2026 億美元，而8,8 年為2020 億美元。這些數字表明，網路犯罪產業和防禦產業都在為應對網路犯罪做準備。 生長 指數的 在這個人工智慧時代。
我們仍處於用於網路攻擊的惡意人工智慧工具時代的早期階段。 預計其產能將增加，價格將下降。 這代表了「攻擊型人工智慧」和「防禦型人工智慧」之間的新軍備競賽。
「防禦人工智慧」正在徹底改變網路安全世界，提供強大的新方法來防範攻擊。 使用人工智慧保護自己免受網路攻擊的主要和最現代的方法是：
- 預防：人工智慧可用於在潛在威脅造成傷害之前識別並阻止它們。 例如，人工智慧可用於分析網路流量數據，以識別可疑模式，使用諸如 CrowStrike 獵鷹 或 帕洛阿爾托網路 Cortex XDR。 另一種可能性是人工智慧用於探測檔案系統 惡意軟件，使用諸如 賽門鐵克 DeepSight 或 思科保護傘.
- 偵測：人工智慧也可用於偵測已經發生的攻擊。 例如，人工智慧可用於分析以下數據： 日誌 （日誌）來識別異常活動，使用諸如 SIEM（安全信息和事件管理） 或 UEBA（統一威脅管理）。 另一種可能性是人工智慧被用來監控使用者和系統的行為，以檢測妥協的跡象，使用諸如 IBM 安全受託人報告 或 思科保護傘.
- 答案：人工智慧還可以用來應對已經發生的攻擊。 例如，人工智慧可用於確定安全事件的優先順序並進行補救，使用諸如 SOAR（安全編排、自動化和回應） 或 MDR（託管偵測和回應）。 另一種可能性是使用人工智慧來減輕攻擊造成的損害，使用諸如 Cybereason 勒索軟體回應 或 恢復機器人.
一些最常用的網路安全人工智慧技術包括：
- 機器學習 （機器學習，意譯）：是人工智慧的一種形式，允許系統從歷史資料中學習。 氧 機器學習 可用於開發可基於網路流量資料、安全日誌資料或其他資料識別潛在威脅的模型。 工具範例 機器學習 網路安全包括 微軟哨兵或 IBM QRadar Ø 思科SecureX.
- 深入學習 （深度學習，意譯）：它是一種方法 機器學習 它使用人工神經網路從數據中學習。 氧 深入學習 它可用於開發可以識別複雜威脅的更複雜的模型。 網路安全的深度學習工具的例子包括 谷歌云盔甲或 AWS 盾高級版 Ø 微軟 Azure 哨兵.
- 行為分析：行為分析是一種使用數據的技術 紀錄(記錄) 識別異常活動。 行為分析可用於檢測使用社會工程技術或其他狡猾方法的攻擊。 網路安全行為分析工具的範例包括 IBM 安全受託人報告或 思科保護傘 Ø Microsoft Defender端點.
人工智慧是一種強大的工具，可用於提高安全性，但值得記住的是，人工智慧並不是完美的解決方案，可能會被複雜的攻擊所愚弄。 無論是否使用人工智慧，實施其他安全措施都很重要：
- 強烈的感情： 強密碼對於保護您的帳戶和裝置至關重要。 強密碼的長度必須至少為 12 個字符，包括大小寫字母、數字和符號。
- 軟體更新： 軟體更新通常包括安全性修復程序，可以幫助保護您的裝置免受攻擊。 一旦軟體更新可用，立即安裝非常重要。
- 防火牆： 防火牆可以幫助阻止未經授權的存取您的網路。 正確配置防火牆並保持更新非常重要。
- 防毒和 反惡意軟件: 防毒和 反惡意軟件 可以幫助檢測和刪除 惡意軟件 您的設備。 使用信譽良好的安全軟體並保持更新非常重要。
- 安全教育： 了解網路安全風險並採取措施保護自己非常重要。 了解如何識別和預防網路攻擊。
- 使用多重身份驗證 (MFA)：MFA 要求您除了密碼之外還輸入安全代碼，從而增加了額外的安全層。
- 請小心您點擊的內容：不要點擊來自未知寄件者的電子郵件或簡訊中的連結或開啟附件。
- 建立定期備份：將重要資料的備份保存在安全位置。
- 制定事件回應計劃：制定應對網路攻擊的計畫。
總之，資訊安全之戰正在不斷加劇，您和公司都有責任採取負責任的預防措施，好嗎？ 這裡在 秀美科技，我們就在您身邊，以客觀、簡單的方式帶來最新、最好的資訊來提供幫助。 直到下次，注意安全！
查看更多
來源： 下一個斜線, 澤商務, Hackernoon, Medium, 趨勢科技
文字校對： 佩德羅邦菲姆 （7 / 11 / 23）
了解更多關於秀美科技
註冊以透過電子郵件接收我們的最新消息。
