TWI772976B - 用於判定網路攻擊及產生警告之製造系統及電腦實施方法 - Google Patents

用於判定網路攻擊及產生警告之製造系統及電腦實施方法 Download PDF

Info

Publication number
TWI772976B
TWI772976B TW109140890A TW109140890A TWI772976B TW I772976 B TWI772976 B TW I772976B TW 109140890 A TW109140890 A TW 109140890A TW 109140890 A TW109140890 A TW 109140890A TW I772976 B TWI772976 B TW I772976B
Authority
TW
Taiwan
Prior art keywords
station
control values
manufacturing system
machine learning
learning algorithms
Prior art date
Application number
TW109140890A
Other languages
English (en)
Other versions
TW202139003A (zh
Inventor
馬修 Ｃ 樸特曼
巴迪姆 皮斯基
達瑪斯 黎莫葛
安德魯 桑斯壯
Original Assignee
美商奈米創尼克影像公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商奈米創尼克影像公司 filed Critical 美商奈米創尼克影像公司
Publication of TW202139003A publication Critical patent/TW202139003A/zh
Application granted granted Critical
Publication of TWI772976B publication Critical patent/TWI772976B/zh

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/12—Detection or prevention of fraud
    • H04W12/121—Wireless intrusion detection systems [WIDS]; Wireless intrusion prevention systems [WIPS]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0709—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a distributed system consisting of a plurality of standalone computer nodes, e.g. clusters, client-server systems
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0793—Remedial or corrective actions
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/554—Detecting local intrusion or implementing counter-measures involving event detection and direct action
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
    • G06F21/566—Dynamic detection, i.e. detection performed at run-time, e.g. emulation, suspicious activities
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/56—Computer malware detection or handling, e.g. anti-virus arrangements
    • G06F21/568—Computer malware detection or handling, e.g. anti-virus arrangements eliminating virus, restoring damaged files
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/57—Certifying or maintaining trusted computer platforms, e.g. secure boots or power-downs, version controls, system software checks, secure updates or assessing vulnerabilities
    • G06F21/577—Assessing vulnerabilities and evaluating computer system security
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1425—Traffic logging, e.g. anomaly detection
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
    • G06F2221/034—Test or assess a computer or a system

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Virology (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • General Factory Administration (AREA)
  • Safety Devices In Control Systems (AREA)
  • Hardware Redundancy (AREA)
  • Telephonic Communication Services (AREA)
  • Alarm Systems (AREA)

Abstract

本文中揭示一種製造系統。該製造系統包含一或多個站、一監測平台，及一控制模組。該一或多個站之各站經組態以針對一組件執行一多步驟製造程序中之至少一個步驟。該監測平台經組態以監測該組件在整個該多步驟製造程序的進展。該控制模組經組態以偵測對該製造系統之一網路攻擊。該控制模組經組態以執行操作。該等操作包含接收該一或多個站之一第一站之控制值。該等操作進一步包含使用一或多個機器學習演算法而基於該第一站之該等控制值來判定存在一網路攻擊。該等操作進一步包含產生一警告以終止該組件之處理。在一些實施例中，該等操作進一步包含校正由該網路攻擊引起之錯誤。

Description

用於判定網路攻擊及產生警告之製造系統及電腦實施方法
本發明大體上係關於一種用於製造程序之系統、方法及媒體。
過去數十年之網路攻擊(cyberattack)已見證一驚人程度之擴散、適應、特異性及複雜性。工業及軍事安全性係限制資訊之惡意插入或移除之實體及數位壁之研究。針對高安全性工廠及軍事裝置，此意謂產生自全域電腦網絡移除且通常自內部網路移除之系統。
在一些實施例中，本文中揭示一種製造系統。該製造系統包含一或多個站、一監測平台及一控制模組。該一或多個站之各站經組態以針對一組件執行一多步驟製造程序中之至少一個步驟。該監測平台經組態以監測該組件在整個該多步驟製造程序之進展。該控制模組經組態以偵測對該製造系統之一網路攻擊，該控制模組經組態以執行操作。該等操作包含接收該一或多個站之一第一站之控制值。該等控制值包含該第一處理站之屬性。該等操作進一步包含使用一或多個機器學習演算法基於該第一站之該等控制值判定存在一網路攻擊。該等操作進一步包含基於該判定， 產生一警告以終止該組件之處理。
在一些實施例中，本文中揭示一種電腦實施方法。一運算系統接收經組態以處理一組件之一製造系統的一或多個站之一第一站之控制值。該等控制值包含該第一站之屬性。該運算系統使用一或多個機器學習演算法基於該第一站之該等控制值判定存在一網路攻擊。該運算系統基於該判定產生一警告以終止該組件之處理。該運算系統產生用以校正由該網路攻擊引起之錯誤之一組動作。該組動作與該製造系統之下游站相關聯。
在一些實施例中，本文中揭示一種製造系統。該製造系統包含一或多個站、一監測平台及一控制模組。該一或多個站之各站經組態以針對一組件執行一多步驟製造程序中之至少一個步驟。該監測平台經組態以監測該組件在整個該多步驟製造程序之進展。該控制模組經組態以偵測對該製造系統之一網路攻擊，該控制模組經組態以執行操作。該等操作包含接收該一或多個站之一第一站之控制值。該等控制值包含該第一站之屬性。該等操作進一步包含使用一或多個機器學習演算法基於該第一站之該等控制值判定存在一網路攻擊。該等操作進一步包含基於該判定產生一警告以終止該組件之處理。該等操作進一步包含使用一或多個第二機器學習演算法產生用以校正由該網路攻擊引起之錯誤之一組動作。該組動作與該製造系統之下游站相關聯。
100:製造環境
102:製造系統
104:監測平台
106:控制模組
1081至108n:站
1141至114n:程序控制器
1161至116n:控制邏輯
132:卡爾曼濾波器
134:自動編碼器
136:機器學習模組
200:系統
202:控制器/第二控制器
204:設備
206:量測
208:攻擊
300:系統
302:控制器
304:設備
306:量測
308:攻擊
312:警報
4020:控制器
402i:控制器
402N:控制器
4040:設備
404i:設備
404N:設備
4060:量測
406i:量測
406N:量測
408:資料儲存器
410:當前狀態
412:攻擊
500:方法
502:步驟
504:步驟
506:步驟
508:步驟
510:步驟
600:系統匯流排運算系統架構
605:匯流排
610:處理器
612:快取區
615:系統記憶體
620:唯讀記憶體(ROM)
625:隨機存取記憶體(RAM)
630:儲存裝置
632:服務1
634:服務2
635:輸出裝置
636:服務3
640:通信介面
645:輸入裝置
650:電腦系統
655:處理器
660:晶片組
665:輸出
670:儲存裝置
675:隨機存取記憶體(RAM)
680:橋
685:使用者介面組件
690:通信介面
可藉由參考實施例(其等之一些在隨附圖式中繪示)進行上文簡要概述之本發明之一更具體描述，使得可詳細理解本發明之上述特徵之方式。然而，應注意，隨附圖式僅繪示本發明之典型實施例且因此不應 視為限制其範疇，此係因為本發明可允許其他相等有效實施例。
圖1係繪示根據例示性實施例之一製造環境的一方塊圖。
圖2係繪示根據例示性實施例之實施卡爾曼(Kalman)濾波器之一單輸入單輸出系統之架構的一方塊圖。
圖3係繪示根據例示性實施例之實施自動編碼器之一系統之架構的一方塊圖。
圖4係繪示根據例示性實施例之使用機器學習模組實施一強化學習方法之一系統之架構的一方塊圖。
圖5係繪示根據例示性實施例之管理對一製造程序之一網路攻擊之一方法之一流程圖。
圖6A繪示根據例示性實施例之一系統匯流排運算系統架構。
圖6B繪示根據例示性實施例之具有一晶片組架構之一電腦系統。
為了促進理解，已在可能之處使用相同元件符號以指定圖共有之相同元件。經審慎考慮，一項實施例中揭示之元件可在無具體敘述之情況下有利地用於其他實施例。
相關申請案之交叉參考
本申請案主張2019年11月20日申請之美國臨時申請案第62/938,158號的優先權，該案之全文藉此係以引用的方式併入本文中。
製造程序可係複雜的且包含藉由不同處理站(或「站」)處理直至產生一最終產品之原始材料。在一些實施例中，各處理站接收用於 處理之一輸入且可輸出一中間輸出，該中間輸出可被傳遞至一後續(下游)處理站以進行額外處理。在一些實施例中，一最終處理站可接收用於處理之一輸入且可輸出最終產品或更一般言之，最終輸出。
在一些實施例中，各站可包含可執行一組程序步驟之一或多個工具/設備。例示性處理站可包含(但不限於)運送帶、射出模製機、切割機、模壓機、擠壓機、電腦數控(CNC)磨機、研磨機、組裝站、三維印表機、品質控制站、驗證站及類似者。
在一些實施例中，各處理站之操作可由一或多個程序控制器控管。在一些實施例中，各處理站可包含可經程式化以控制處理站之操作之一或多個程序控制器。在一些實施例中，一操作者或控制演算法可為站控制器提供可表示各控制值之所要值或值範圍之站控制器設定點。在一些實施例中，在一製造程序中用於回饋或前饋之值可稱為控制值。例示性控制值可包含(但不限於)：速度、溫度、壓力、真空、旋轉、電流、電壓、功率、黏度、在站處使用之材料/資源、通量率、中斷時間、有毒煙霧、pH、光吸收、顆粒密度及幾何構形及類似者。
統計程序控制(SPC)係採用統計方法以監測且控制一程序之一品質控制方法。一般言之，SPC需要針對一製造程序中之各步驟建立且貫穿生產生命週期監測之程序標準。SPC之目標係在整個生命週期持續改良程序。
為了SPC之目的，假定只要各節點在規範內操作，最終產品亦將在規範內。可基於標的物專業知識及歷史效能設定規範。在SPC中未直接調整一個節點對下一或後續節點之相依性及影響；而是，可將各子程序檢查為一獨立實體。此方法導致各節點之操作條件之更廣裕度，從而 防止系統甚至在絕對最高效率或穩定性中操作。自一安全性觀點，此裕度可被複雜程序網路攻擊鎖定目標。如果一系統中之一單一節點或若干節點開始在其等規範之上界(或下界)處操作，則將不觸發個別警報，但整體程序品質將受影響。此尤其適用於中間人網路攻擊，其中經報告感測器信號(例如)由惡意程式碼偽造。節點之生命週期亦將受影響，因此需要增加停機時間以進行修理。下游節點之若干層亦將受影響且隨著時間，系統之持續漂移將趨向於不合規。至該點，復原系統所需之校正將係大量且成本過高。
本文中提供之一或多種技術係關於用於藉由將可疑惡意活動視為一程序變動且憑藉主動地調諧系統之操作參數來校正其而實現工業安全性之一新穎方法。隨著對工業系統之威脅在數目及複雜性上增加，習知安全性方法需要與程序控制中之進步齊頭並進以整體強化系統。
圖1係繪示根據例示性實施例之一製造環境100的一方塊圖。製造環境100可包含一製造系統102、一監測平台104及一控制模組106。製造系統102可廣泛地代表一多步驟製造系統。在一些實施例中，製造系統102可代表一組裝線系統，其中各處理站可代表一人類工人。在一些實施例中，製造系統102可代表用於積層製造之一製造系統(例如，3D列印系統)。在一些實施例中，製造系統102可代表用於減材製造(例如，CNC機械加工)之一製造系統。在一些實施例中，製造系統102可代表用於積層製造及減法製造之一組合之一製造系統。更一般言之，在一些實施例中，製造系統102可代表用於一一般製造程序中之一製造系統。
製造系統102可包含一或多個站1081至108n(一般言之，「站108」)。各站108可代表一多步驟製造程序中之一步驟及/或站。例 如，各站108可代表一3D列印程序中之一層沈積操作(例如，站1081可對應於層1，站1082可對應於層2等)。在另一實例中，各站108可對應於一特定處理站。在另一實例中，各站108可對應於執行一組裝線製造程序中之一特定任務之一特定人類操作者。
各站108可包含一程序控制器114及控制邏輯116。各程序控制器1141至114n可經程式化以控制各各自站108之操作。在一些實施例中，控制模組106可為各程序控制器114提供可表示各控制值之所要值或值範圍之站控制器設定點。控制邏輯116可係指與一站108之程序步驟相關聯之屬性/參數。在操作中，取決於一最終品質度量之一當前軌道，可在整個製造程序藉由控制模組106動態地更新各站108之控制邏輯116。
監測平台104可經組態以監測製造系統102之各站108。在一些實施例中，監測平台104可係製造系統102之一組件。例如，監測平台104可係一3D列印系統之一組件。在一些實施例中，監測平台104可獨立於製造系統102。例如，監測平台104可改裝至一現有製造系統102上。在一些實施例中，監測平台104可代表經組態以在一多步驟程序之各步驟處擷取一產品或工具(例如，一工人或一程序工具)之一影像之一成像裝置。例如，監測平台104可經組態以擷取在各站108處之組件之一影像及/或在各站108處開發產品之一組件(例如，工具、人類等)之一影像。一般言之，監測平台104可經組態以擷取與一產品之產生(例如，一影像、一電壓讀取、一速度讀取等)及/或工具(例如，手位置、工具位置等)相關聯之資訊，且將該資訊作為輸入提供至控制模組106以供評估。
控制模組106可經由一或多個通信頻道與製造系統102及監測平台104通信。在一些實施例中，一或多個通信頻道可代表經由網際網 路(諸如蜂巢式或Wi-Fi網路)之個別連線。在一些實施例中，一或多個通信頻道可使用直接連線(諸如射頻識別(RFID)、近場通信(NFC)、BluetoothTM、低能量BluetoothTM(BLE)、Wi-FiTM、ZigBeeTM、環境反向散射通信(ABC)協定、USB、WAN或LAN)連接終端機、服務及行動裝置。
控制模組106可經組態以控制製造系統102之各程序控制器。例如，基於由監測平台104擷取之資訊，控制模組106可經組態以調整與一特定站108相關聯之程序控制。在一些實施例中，控制模組106可經組態以基於一經投射最終品質度量而調整一特定站108之程序控制。
如上文論述，用於偵測程序攻擊之習知方法係各種SPC技術。SPC係用於程序控制之一靜態非干預性方法，其中被動地觀察經良好定義統計性質以在各節點處通過或失敗。僅在最後節點之處理之後，此等習知系統作出關於是否係保持或摒棄經製造產品之一決策。
為了改良習知程序，控制模組106包含錯誤偵測模組130。錯誤偵測模組130可經組態以偵測一給定站108或製造系統102之節點處之一錯誤。例如，錯誤偵測模組130用作用於程序控制之一動態干預性方法之部分，其中接在引起經偵測損害之節點之後的各節點被編織成一最佳化問題(例如，一損害恢復問題)且經主動地控制以具現化該最佳化問題之一解決方案。在一些實施例中，此程序可即時或接近即時完成且係在各週期在進行中時而非在一給定週期之結束。
為了理解由錯誤偵測模組130實施之一或多種技術，重要的係理解控制模組106如何定義一製造系統(例如，製造系統102)。可使用廣泛多種拓樸方案(包含回饋及前饋組織)定義一製造系統。在一些實施例 中，一製造系統F可定義為在一經前饋連結鏈中連接之標記為1,...,N之一線性序列之n個處理節點(或站108)。例如：F：→1→2→…→i→…→n
類似地，在一些實施例中，一製造系統F可定義為標記為1,...,N之一非線性序列之n個處理節點(或站108)。在一些實施例中，由各節點i完成之處理可具有兩個屬性分佈：一預期分佈Q i ；及一經觀察分佈P i 。Q i 可藉由
Figure 109140890-A0305-02-0010-68
及
Figure 109140890-A0305-02-0010-65
表徵。如果
Figure 109140890-A0305-02-0010-44
，則Q i 可經完全表徵。P i 可藉由
Figure 109140890-A0305-02-0010-66
及
Figure 109140890-A0305-02-0010-67
表徵。如果
Figure 109140890-A0305-02-0010-45
，則P i 可經完全表徵。
在一些實施例中，由節點i引起之損害可定義為P i 相對於Q i 之庫貝克-李柏(Kullback-Leibler)發散：
Figure 109140890-A0305-02-0010-1
在一些實施例中，損害可係累積的或跨F相加。例如：
Figure 109140890-A0305-02-0010-3
返回參考錯誤偵測模組130，錯誤偵測模組130可經組態以偵測在製造系統102之一給定節點k處之損害或一錯誤。例如，如果錯誤偵測模組130偵測節點k已引起損害(即，已產生一經損害或經失真分佈)，則錯誤偵測模組130可採用自P k 取樣且產生自其流動之全部後續所得分佈P k+1 ,...,P n ，使得剩餘累積損害d k+1 ,...,d k 可減少或最小化之一控制策略。因此，可將錯誤偵測模組130之損害恢復問題公式化為：
Figure 109140890-A0305-02-0010-4
在一些實施例中，錯誤偵測模組130可實施用以識別或校 正在一給定節點處偵測到之損害的一或多種技術。在一些實施例中，錯誤偵測模組130可使用一卡爾曼濾波器132以偵測一給定處理節點處之損害或錯誤。在一些實施例中，錯誤偵測模組130可包含用以偵測一給定處理節點處之損害或錯誤之一自動編碼器134。在一些實施例中，錯誤偵測模組130可使用機器學習模組136深度強化學習技術以偵測一給定處理節點處之損害或錯誤，且校正由下游節點或站108處之損害或錯誤引起之經偵測變動。在一些實施例中，錯誤偵測模組130可使用卡爾曼濾波器132、一自動編碼器134或機器學習模組136之一或多者以偵測一給定處理節點處之損害或錯誤，及/或校正由下游節點或站108處之損害或錯誤引起之經偵測變動。
在一些實施例中，錯誤偵測模組130可實施卡爾曼濾波器132以偵測一處理節點處之錯誤。為了一般化上文之分佈描述，即，d i ，可將一單輸入單輸出系統以一狀態空間形式建立為：
Figure 109140890-A0305-02-0011-5
 針對經定義為系統之任意狀態之
Figure 109140890-A0305-02-0011-40
，經定義為系統之輸出之y，且A,B,C可係定義基礎動力學之常微分方程式的系統矩陣。此系統之輸入u ε 可係藉由以下項定義之一有雜訊輸入信號：u ε,i =u i (t)+ε t 其中
Figure 109140890-A0305-02-0011-43
可係由ε t ~N(μ ε,i ,R i )貢獻之相加雜訊。在一些實施例中，經觀察輸出y V 可係系統輸出之一函數，如：y V,i =y i (t)+V t 針對一類似地有雜訊的信號量測，其中V t ~N(μ V,i ,
Figure 109140890-A0305-02-0011-41
)。在一些實施例 中，此標記可係藉由針對一程序之一給定節點i建立y V,i ~Q i 來協調。在一不受影響系統中，雜訊貢獻之均值可係零，使得μ ε,i =μ V,i =0。然而，在一惡意網路攻擊中，偏差可顯現為一非零均值輸入雜訊。
一般言之，一卡爾曼濾波器132可依賴於零均值雜訊；然而，在一惡意網路攻擊之情況中，一輸入指令之一偏移可顯現為一非零均值相加雜訊。因而，可針對以下項之經假定非時變系統來解釋一卡爾曼濾波器132：
Figure 109140890-A0305-02-0012-27
在一些實施例中，卡爾曼濾波器132可使用一節點或一程序之輸出y V,i (t)之量測及正準未觸碰輸入指令u i (t)建構。如果正確地校準程序，則一站108或節點之輸入/輸出感測器量測應具有零均值雜訊。然而，在一惡意網路攻擊之情況中，將存在一非零偏差。
在一些實施例中，卡爾曼濾波器132可理解為：
Figure 109140890-A0305-02-0012-7
針對一處理節點i之第k樣本，其中
Figure 109140890-A0305-02-0012-46
可係量測更新標記，Σ i,k 可係狀態預測之協方差，R i 可係輸入雜訊之協方差，ε t 及K i,k 可係卡爾曼增益。 使用一足夠大樣本，創新分佈
Figure 109140890-A0305-02-0012-8
應係
Figure 109140890-A0305-02-0012-9
。然而，使用一惡意網路攻擊
Figure 109140890-A0305-02-0012-63
≠0，但此可在最小樣本內自然地發生。一旦可滿足一樣本臨限值k>k min ，便可 針對
Figure 109140890-A0305-02-0013-38
>γ i 建立一警報，其中γ i 可針對一處理節點經調諧。如果創新錯誤非零且高於臨限值γ i ，則錯誤偵測模組130可判定一惡意網路攻擊可能正在發生。
圖2係繪示根據例示性實施例之實施卡爾曼濾波器132之一單輸入單輸出系統(下文為「系統200」)之架構的一方塊圖。
如展示，系統200可包含一控制器202(例如，C(s))、一設備204(例如，G(s))、一量測206(例如，H(s))、一攻擊208(例如，A(s))及卡爾曼濾波器132(例如，KF)。在一些實施例中，系統200可包含一第二控制器202。在一些實施例中，控制器202、設備204及量測206可表示節點控制之基本組成部分，而卡爾曼濾波器132產生一創新錯誤。
在一些實施例(諸如圖2中展示之實施例)中，一雙控制器可用作卡爾曼濾波器132之一無偏差參考。
返回參考圖1，在一些實施例中，錯誤偵測模組130可使用一自動編碼器134以偵測對應於一網路攻擊之異常。針對一序列經量測輸出
Figure 109140890-A0305-02-0013-39
，可具現化一非監督式自動編碼器訓練以將輸出觀察之一熵映射至一參數集θ AE 上，使得
Figure 109140890-A0305-02-0013-10
在一些實施例中，自動編碼器134之錯誤可定義為：
Figure 109140890-A0305-02-0013-11
且針對
Figure 109140890-A0305-02-0013-48
~N(
Figure 109140890-A0305-02-0013-69
,
Figure 109140890-A0305-02-0013-70
)之一正常操作，其中
Figure 109140890-A0305-02-0013-61
及
Figure 109140890-A0305-02-0013-62
可以最大可能性擬合至分佈。隨後，針對一序列之一異常分數a i 可定義為：
Figure 109140890-A0305-02-0013-12
類似於卡爾曼濾波器132，當異常分數a i >γ i 時，錯誤偵測模組130可使用自動編碼器134偵測一異常。
圖3係繪示根據一些實施例之實施自動編碼器134之一系統300之架構的一方塊圖。如展示，系統300可包含一控制器302(例如，C(s))、一設備304(例如，G(s))、一量測306(例如，H(s))、一攻擊308(例如，A(s))、自動編碼器134(例如，AE)及一警報312(例如，A)。控制器302、設備304及量測306可表示節點控制之基本組成部分，而自動編碼器134可偵測錯誤。在一些實施例中，錯誤偵測模組130可基於一足夠異常分數觸發一警報312。
返回參考圖1，在一些實施例中，錯誤偵測模組130可使用一或多個深度強化學習技術以識別對應於一網路攻擊之處理中之一錯誤或異常。如上文提及，給定損害之定義d i ，可針對設法建構一組分佈P k+1 ,...,P n 之一強化學習代理器公式化一經延遲獎勵函數以求解以下損害恢復問題
Figure 109140890-A0305-02-0014-13
針對
Figure 109140890-A0305-02-0014-14
此係透過其動作
Figure 109140890-A0305-02-0014-37
，針對i=k+1,...,n，完成某一組迭代j=1,...,m：
Figure 109140890-A0305-02-0014-15
在一些實施例中，錯誤偵測模組130可在一行動者關鍵模 態中訓練一代理器，使得給定一程序之第i節點之第k樣本之一狀態
Figure 109140890-A0305-02-0015-32
，一個網路可產生一動作α i,k ，且另一網路可產生經由參數θ Q,i 學習之Q值
Figure 109140890-A0305-02-0015-55
(
Figure 109140890-A0305-02-0015-58
,α i,k |θ Q,i )之一預測，其中π i (
Figure 109140890-A0305-02-0015-57
,θ π,i )可係經由參數θ π,i 學習之一原則。在一些實施例中，可使用一貝爾曼(Bellman)公式計算獎勵使得：
Figure 109140890-A0305-02-0015-18
在一些實施例中，與強化學習技術相關聯之更新定律可係：
Figure 109140890-A0305-02-0015-20
在一些實施例中，更新定律可減小或最小化Q值，藉此最小化損害，且可顯現於目標為將分佈返回至其正準形狀之動作中。在一些實施例中，一動作之一個公式可係： 在一些實施例中，一動作之一公式可係：
Figure 109140890-A0305-02-0015-21
其中u i,k 可係
Figure 109140890-A0305-02-0015-71
及
Figure 109140890-A0305-02-0015-35
之輸入，α i,k 可係一指令修改器，且
Figure 109140890-A0305-02-0015-36
可係針對節點i之一特定樣本k讀取之指令。如果此指令被損壞，且該損壞以各種狀態顯現，則原則π i,k 可行動以校正其。
藉由利用一強化學習方法，錯誤偵測模組130可藉由將基於程序之惡意網路攻擊統整成標稱程序變動而解決系統安全性之一新方式且提供該等變動之直接控制及校正。方法不僅僅係偵測或被動防止之一方法；實情係，可假定一網路攻擊顯現為一常規(例如，可能)系統變動，諸如機器超出規範或原始材料存料超出嚴格規範。
圖4係繪示根據一些實施例之使用機器學習模組136實施一強化學習方法之一系統400之架構的一方塊圖。如展示，系統400可代表 一多節點系統i=0,...,N。針對各節點i，可存在一控制器4020、4021及402N(例如，C 0(s),C i (s),...C N (s))、一設備4040、404i及404N(例如，G 0(s),G i (s),G N (s))及一量測4060、406i及406N(例如，H 0(s),H i (s),H N (s))。節點可一起嵌入由系統400在自資料儲存器408(例如，Y)取樣之時間k,S k 之狀態管控之一原則學習回饋迴路中，且原則獲取當前狀態410作為輸入π(S k )。可針對一單一節點i藉由區塊A(s)表示一攻擊412。
在一些實施例中，為了識別所採取之用以校正由一網路攻擊引起之錯誤之一組動作，可將針對時間樣本k之狀態S k 輸入至一非線性濾波器，可選取該非線性濾波器之權重以在給定一經觀察假影或分量之情況下最小化一時間樣本k+n之後續損害。在一些實施例中，濾波器之輸出可係修改指定程序設定點或控制值之一純量或向量。自狀態至動作之變換可稱為原則。
圖5係繪示根據例示性實施例之管理對一製造程序之一網路攻擊之一方法500之一流程圖。方法500可作為步驟502開始。
在步驟502，控制模組106可自製造系統102之一站108接收控制值。在一些實施例中，控制模組106可自與一給定站108相關聯之一程序控制器接收控制值。程序控制器可通常經程式化以控制站108之操作。例示性控制值可包含(但不限於)：速度、溫度、壓力、真空、旋轉、電流、電壓、功率、黏度、在站處使用之材料/資源、通量率、中斷時間、有毒煙霧及類似者。更一般言之，一控制值可係指站108之一屬性，而非由站108處理之一組件之一屬性。
在步驟504，控制模組106可基於自站108接收之控制值判定一網路攻擊存在。例如，在一些實施例中，錯誤偵測模組130可使用卡 爾曼濾波器132以在給定控制值之情況下產生站108之一異常分數。例如，如果異常分數大於一預定義臨限值，則控制模組106可判定一網路攻擊當前在進行中。在另一實例中，錯誤偵測模組130可使用自動編碼器134以在給定控制值之情況下產生站108之一異常分數。例如，如果異常分數大於一預定義臨限值，則控制模組106可判定一網路攻擊當前在進行中。在另一實例中，錯誤偵測模組130可使用機器學習模組136以預測對應於站108之一Q值。例如，如果Q值在可接受值之一範圍之外，則控制模組106可判定一網路攻擊當前在進行中。
在一些實施例中，方法500可包含步驟506。在步驟506，回應於判定一網路攻擊正在發生，控制模組106可觸發一警告或警報。在一些實施例中，警告或警報可係對監督製造系統102之一使用者之一通知。在一些實施例中，警告或警報可係停止或終止製造系統102之各站1081至108n之處理之一信號。
在一些實施例中，方法500可包含步驟508至510。在步驟508，回應於判定一網路攻擊正在發生，控制模組106可產生用以校正由網路攻擊引起之損害之一或多個動作。例如，錯誤偵測模組130可在一行動者關鍵模態中訓練一代理器，使得給定一程序之第i節點之第k樣本之一狀態
Figure 109140890-A0305-02-0017-31
，一個網路可產生一動作α i,k ，且另一網路可產生透過參數θ Q,i 學習之Q值
Figure 109140890-A0305-02-0017-52
(
Figure 109140890-A0305-02-0017-53
,α i,k |θ Q,i )之一預測，其中π i (
Figure 109140890-A0305-02-0017-54
,θ π,i )可係透過參數θ π,i 學習之一原則。在一些實施例中，可使用一貝爾曼公式計算獎勵使得：
Figure 109140890-A0305-02-0017-23
在一些實施例中，與強化學習技術相關聯之更新定律可係：
Figure 109140890-A0305-02-0018-25
在一些實施例中，更新定律可減小或最小化Q值，藉此最小化損害，且可顯現於目標為將分佈返回至其正準形狀之動作中。
在一些實施例中，一動作之一公式可係：
Figure 109140890-A0305-02-0018-26
其中u i,k 可係
Figure 109140890-A0305-02-0018-28
及
Figure 109140890-A0305-02-0018-29
之輸入，α i,k 可係一指令修改器，且
Figure 109140890-A0305-02-0018-30
可係針對節點i之一特定樣本k讀取之指令。如果此指令被損壞，且該損壞以各種狀態顯現，則原則π i,k 可行動以校正其。
在步驟510，控制模組106可為下游站108提供由機器學習模組136產生之經更新動作。在一些實施例中，控制模組106可將經更新指令傳輸至各下游站108之程序控制器。
圖6A繪示根據例示性實施例之一系統匯流排運算系統架構600。系統600之一或多個組件可使用一匯流排605彼此電通信。系統600可包含一處理器(例如，一或多個CPU、GPU或其他類型之處理器)610及將各種系統組件(包含系統記憶體615，諸如唯讀記憶體(ROM)620及隨機存取記憶體(RAM)625)耦合至處理器610之一系統匯流排605。系統600可包含與處理器610直接連接、緊密接近處理器610或作為處理器610之部分整合之高速記憶體之一快取區。系統600可自記憶體615及/或儲存裝置630複製資料至快取區612用於藉由處理器610進行快速存取。以此方式，快取區612可提供避免處理器610在等待資料時延遲之一效能增強。此等及其他模組可控制或經組態以控制處理器610以執行各種動作。亦可用其他系統記憶體615以供使用。記憶體615可包含具有不同效能特性之多個不同類型之記憶體。處理器610可代表一單一處理器或多個處理器。處理器 610可包含一通用處理器或一硬體模組或軟體模組(諸如儲存於記憶體裝置630中之經組態以控制處理器610之服務1 632、服務2 634及服務3 636)以及其中軟體指令併入實際處理器設計中之一專用處理器之一或多者。處理器610可基本上係含有多個核心或處理器、一匯流排、記憶體控制器、快取區等之一完全自含型運算系統。一多核心處理器可係對稱或不對稱的。
為實現與運算裝置600之使用者互動，一輸入裝置645可係任何數目個輸入機構，諸如用於語音之一麥克風、用於手勢或圖形輸入之一觸敏螢幕、鍵盤、滑鼠、運動輸入、話音等。一輸出裝置635亦可為熟習此項技術者已知之數個輸出機構中之一或多者。在一些例項中，多模式系統可使一使用者能夠提供多個類型之輸入以與運算裝置600通信。通信介面640一般可控管及管理使用者輸入及系統輸出。在任何特定硬體配置上操作係沒有限制的，且因此，此處之基本特徵在其等被開發時可容易由經改良硬體或韌體配置取代。
儲存裝置630可係一非揮發性記憶體，且可為一硬碟或可儲存可藉由一電腦存取之資料之其他類型的電腦可讀媒體，諸如盒式磁帶、快閃記憶卡、固態記憶體裝置、數位多功能光碟、匣、隨機存取記憶體(RAM)625、唯讀記憶體(ROM)620，及其等之混合。
儲存裝置630可包含用於控制處理器610之服務632、634及636。審慎考慮其他硬體或軟體模組。儲存裝置630可經連接至系統匯流排605。在一個態樣中，執行一特定功能之一硬體模組可包含經儲存於與必要硬體組件(諸如處理器610、匯流排605、顯示器635等)連接之一電腦可讀媒體中以實行功能的軟體組件。
圖6B繪示根據例示性實施例之具有一晶片組架構之一電腦 系統650。電腦系統650可係可用於實施所揭示技術之電腦硬體、軟體及韌體之一實例。系統650可包含代表能夠執行經組態以執行經識別運算之軟體、韌體及硬體之任何數目個實體及/或邏輯相異資源的一或多個處理器655。一或多個處理器655可與一晶片組660通信，該晶片組660可控制至一或多個處理器655之輸入及來自一或多個處理器655之輸出。在此實例中，晶片組660將資訊輸出至輸出665(諸如一顯示器)，且可讀取資訊且將資訊寫入至儲存裝置670，該儲存裝置670可包含(例如)磁性媒體及固態媒體。晶片組660亦可自RAM 675讀取資料，且將資料寫入至RAM 675。可提供用於與各種使用者介面組件685介接之一橋680，用於與晶片組660介接。此等使用者介面組件685可包含一鍵盤、一麥克風、觸控偵測及處理電路、一指標裝置(諸如一滑鼠)等。一般言之，至系統650之輸入可來自各種源(機器產生及/或人為產生)之任何者。
晶片組660亦可與可具有不同實體介面之一或多個通信介面690介接。此等通信介面可包含用於有線及無線區域網路、用於寬頻無線網路以及個人區域網路之介面。用於產生、顯示且使用本文中揭示之GUI之方法的一些應用可包含經由實體介面接收有序資料集或藉由機器自身憑藉分析經儲存於儲存器670或675中之資料的一或多個處理器655來產生。此外，機器可自一使用者透過使用者介面組件685接收輸入，且藉由使用一或多個處理器655解譯此等輸入來執行適當功能(諸如瀏覽功能)。
可瞭解，例示性系統600及650可具有一個以上處理器610或係經網路連結在一起以提供更大處理能力之運算裝置之一群組或叢集之部分。
雖然上文係關於本文中描述之實施例，但可設想其他及進 一步實施例而不脫離其基本範疇。例如，本發明之態樣可實施於硬體或軟體或硬體及軟體之一組合中。本文中描述之一項實施例可實施為用於與一電腦系統一起使用之一程式產品。程式產品之(若干)程式定義實施例(包含本文中描述之方法)之功能且可含有在各種電腦可讀儲存媒體上。闡釋性電腦可讀儲存媒體包含(但不限於)：(i)資訊永久地儲存於其上之不可寫入儲存媒體(例如，一電腦內之唯讀記憶體(ROM)裝置，諸如可由一CD-ROM光碟機讀取之CD-ROM光碟，快閃記憶體、ROM晶片，或任何類型之固態非揮發性記憶體)；及(ii)其上儲存可更改資訊之可寫入儲存媒體(例如，一軟式磁碟機內之軟碟或硬碟機或任何類型之固態隨機存取記憶體)。此等電腦可讀儲存媒體在攜載引導所揭示實施例之功能之電腦可讀指令時係本發明之實施例。
熟習此項技術者將瞭解，前述實例係例示性且非限制性的。旨在其全部排列、增強、等效物及改良在熟習此項技術者在閱讀說明書且研究圖式之後顯而易見且包含於本發明之真實精神及範疇內。因此，旨在以下隨附發明申請專利範圍包含如落在其他教示之真實精神及範疇內之全部此等修改、排列及等效物。
100:製造環境
102:製造系統
104:監測平台
106:控制模組
1081至108n:站
1141至114n:程序控制器
1161至116n:控制邏輯
132:卡爾曼濾波器
134:自動編碼器
136:機器學習模組

Claims (20)

  1. 一種用於判定網路攻擊及產生警告之製造系統，其包括：一或多個站，各站經組態以針對一組件執行一多步驟製造程序中之至少一個步驟；一監測平台，其經組態以監測該組件在整個該多步驟製造程序之進展；及一控制模組，其經組態以偵測對該製造系統之一網路攻擊，該控制模組經組態以執行操作，該等操作包括：接收該一或多個站之一第一站之控制值，該等控制值包括該第一處理站之屬性；藉由以下動作，使用一或多個機器學習演算法，基於該第一站之該等控制值來判定存在一網路攻擊：基於該等控制值來產生該第一站之一異常分數，及判定該異常分數超過指示一網路攻擊之一臨限值；及基於該判定，產生一警告以終止該組件之處理；藉由判定一組經修改控制值，產生用以校正由該網路攻擊引起之錯誤之一組動作以最小化該網路攻擊造成之損害；及提供該組動作至與該製造系統之至少一下游站相關聯之至少一程序控制器。
  2. 如請求項1之製造系統，其中該一或多個機器學習演算法包括一卡爾曼濾波器。
  3. 如請求項2之製造系統，其中基於該等控制值來產生該第一站之該異常分數，包括：使用該卡爾曼濾波器，基於該等控制值來產生該第一站之該異常分數。
  4. 如請求項1之製造系統，其中該一或多個機器學習演算法包括一自動編碼器。
  5. 如請求項4之製造系統，其中基於該等控制值來產生該第一站之該異常分數包括：使用該自動編碼器，基於該等控制值來產生該第一站之該異常分數。
  6. 如請求項1之製造系統，其中該一或多個機器學習演算法包括一深度學習演算法。
  7. 如請求項6之製造系統，其中使用該一或多個機器學習演算法基於該第一站之該等控制值來判定存在一網路攻擊進一步包括：基於該一或多個控制值來產生該組件之一經預測品質度量；及判定該經預測品質度量落在可接受值之一範圍之外。
  8. 一種用於判定網路攻擊及產生警告之電腦實施方法，其包括： 藉由一運算系統接收經組態以處理一組件之一製造系統的一或多個站之一第一站的控制值，該等控制值包括該第一站的屬性；藉由以下動作，藉由該運算系統，使用一或多個機器學習演算法，基於該第一站之該等控制值來判定存在一網路攻擊：基於該等控制值來產生該第一站之一異常分數，及判定該異常分數超過指示該網路攻擊之一臨限值；及藉由該運算系統，基於該判定來產生一警告以終止該組件之處理；藉由該運算系統，藉由判定一組經修改控制值來產生用以校正由該網路攻擊引起之錯誤之一組動作以最小化該網路攻擊造成之損害；及藉由該運算系統，使該製造系統之至少一下游站，藉由使與該至少一下游站相關聯之至少一程序控制器基於該組經修改控制值調整該至少一下游站之一組屬性，執行該組動作。
  9. 如請求項8之電腦實施方法，其中該一或多個機器學習演算法包括一卡爾曼濾波器。
  10. 如請求項9之電腦實施方法，其中基於該等控制值來產生該第一站之該異常分數，包括：使用該卡爾曼濾波器，基於該等控制值來產生該第一站之該異常分數。
  11. 如請求項8之電腦實施方法，其中該一或多個機器學習演算法包括一自動編碼器。
  12. 如請求項11之電腦實施方法，其中基於該等控制值來產生該第一站之該異常分數，包括：使用該自動編碼器，基於該等控制值來產生該第一站之該異常分數。
  13. 如請求項8之電腦實施方法，其中該一或多個機器學習演算法包括一深度學習演算法。
  14. 如請求項13之電腦實施方法，其中使用該一或多個機器學習演算法基於該第一站之該等控制值來判定存在一網路攻擊進一步包括：基於該一或多個控制值來產生該組件之一經預測品質度量；及判定該經預測品質度量落在可接受值之一範圍之外。
  15. 一種用於判定網路攻擊及產生警告之製造系統，其包括：一或多個站，各站經組態以針對一組件執行一多步驟製造程序中之至少一個步驟；一控制模組，其經組態以偵測對該製造系統之一網路攻擊，該控制模組經組態以執行操作，該等操作包括：接收該一或多個站之一第一站之控制值，該等控制值包括該第一站之屬性；使用一或多個機器學習演算法，基於該第一站之該等控制值來判定存在一網路攻擊； 基於該判定，產生一警告以終止該組件之處理；使用一或多個第二機器學習演算法，藉由判定一組經修改控制值來產生用以校正由該網路攻擊引起之錯誤之一組動作以最小化該網路攻擊造成之損害；及藉由使與至少一下游站相關聯之至少一程序控制器基於該組經修改控制值調整該至少一下游站之一組屬性，使該製造系統之該至少一下游站執行該組動作。
  16. 如請求項15之製造系統，其中該一或多個機器學習演算法包括一卡爾曼濾波器，且該一或多個第二機器學習演算法包括一深度學習演算法。
  17. 如請求項16之製造系統，其中使用該一或多個機器學習演算法基於該第一站之該等控制值來判定存在一網路攻擊包括：使用該卡爾曼濾波器，基於該等控制值來產生該第一站之一異常分數；及判定該異常分數超過指示一網路攻擊之一臨限值。
  18. 如請求項15之製造系統，其中該一或多個機器學習演算法包括一自動編碼器。
  19. 如請求項18之製造系統，其中使用該一或多個機器學習演算法基於該第一站之該等控制值來判定存在一網路攻擊包括：使用該自動編碼器，基於該等控制值來產生該第一站之一異常分 數；及判定該異常分數超過指示一網路攻擊之一臨限值。
  20. 如請求項15之製造系統，其中該一或多個機器學習演算法包括一深度學習演算法。
TW109140890A 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法 TWI772976B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201962938158P 2019-11-20 2019-11-20
US62/938,158 2019-11-20

Publications (2)

Publication Number Publication Date
TW202139003A TW202139003A (zh) 2021-10-16
TWI772976B true TWI772976B (zh) 2022-08-01

Family

ID=75980190

Family Applications (4)

Application Number Title Priority Date Filing Date
TW114119619A TW202536646A (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法
TW109140890A TWI772976B (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法
TW112125594A TWI887697B (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法
TW111125269A TWI812329B (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
TW114119619A TW202536646A (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法

Family Applications After (2)

Application Number Title Priority Date Filing Date
TW112125594A TWI887697B (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法
TW111125269A TWI812329B (zh) 2019-11-20 2020-11-20 用於判定網路攻擊及產生警告之製造系統及電腦實施方法

Country Status (7)

Country Link
US (2) US12153668B2 (zh)
EP (1) EP4062285A4 (zh)
JP (3) JP7389518B2 (zh)
KR (1) KR102866210B1 (zh)
CN (1) CN114730279B (zh)
TW (4) TW202536646A (zh)
WO (1) WO2021102223A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11156991B2 (en) 2019-06-24 2021-10-26 Nanotronics Imaging, Inc. Predictive process control for a manufacturing process
US20240224040A1 (en) * 2021-05-05 2024-07-04 Telefonaktiebolaget Lm Ericsson (Publ) Upgrading control plane network functions with proactive anomaly detection capabilities
KR102789898B1 (ko) * 2022-12-26 2025-04-03 국방과학연구소 사이버 보안 모델링 및 시뮬레이션을 위한 사이버 방어 모델링 시스템 및 방법
CN117008531A (zh) * 2023-06-29 2023-11-07 中国科学院信息工程研究所 数控系统隐蔽攻击检测方法及相关设备
KR102736334B1 (ko) * 2024-03-25 2024-11-29 세종대학교산학협력단 강화 학습을 이용하는 제어 시스템에 대한 침입 탐지 방법

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100131202A1 (en) * 2008-11-13 2010-05-27 Saint Louis University Apparatus and method for providing environmental predictive indicators to emergency response managers
JP4621773B2 (ja) * 2005-05-17 2011-01-26 エーテーハー アイトヘネーシシェ テフニーシェ ホフシューレ チューリッヒ ネットワーク内の移動ユニットの輸送を制御するための競合プロセスの調整方法
TWI409658B (zh) * 2008-03-31 2013-09-21 東京威力科創股份有限公司 多層／多輸入／多輸出模型及其使用方法
CN105960777A (zh) * 2013-10-21 2016-09-21 尼妍萨有限公司 使用远程网络管理器观察和控制可编程网络的系统和方法
CN106687981A (zh) * 2014-06-24 2017-05-17 弗塞克系统公司 用于自动化检测输入和输出验证和资源管理漏洞的系统和方法
CN107835982A (zh) * 2015-05-04 2018-03-23 赛义德·卡姆兰·哈桑 用于在计算机网络中管理安全性的方法和设备
CN107851047A (zh) * 2015-05-22 2018-03-27 动力指纹股份有限公司 使用诸如侧信道信息的功率特点进行入侵检测和分析的系统、方法和装置
CN107976969A (zh) * 2016-10-24 2018-05-01 费希尔-罗斯蒙特系统公司 过程设备状况和性能监控
US20180321667A1 (en) * 2016-05-09 2018-11-08 StrongForce IoT Portfolio 2016, LLC Methods and systems for data processing in an industrial internet of things data collection environment with large data sets

Family Cites Families (232)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS461492Y1 (zh) 1966-08-26 1971-01-19
JPS4621773Y1 (zh) 1966-12-16 1971-07-28
US4056716A (en) 1976-06-30 1977-11-01 International Business Machines Corporation Defect inspection of objects such as electronic circuits
IT1129509B (it) 1980-01-14 1986-06-04 Tasco Spa Procedimento ed apparecchiatura per il ritrovamento in tempo reale di difetti in oggetti industriali
JPS6356909U (zh) 1986-10-01 1988-04-16
DE3750285T2 (de) 1986-10-03 1995-03-30 Omron Tateisi Electronics Co Gerät zur Untersuchung einer elektronischen Vorrichtung in fester Baugruppe.
JPH05108126A (ja) 1991-10-17 1993-04-30 Kobe Steel Ltd 位置ずれ較正装置
JPH0772717B2 (ja) 1992-05-21 1995-08-02 豊田通商株式会社 基板の検査方法および基板の検査装置
KR100201020B1 (ko) 1994-03-11 1999-06-15 모리시타 요이찌 컴퓨터시뮬레이션부착 nc제어미세가공방법과 이 방법에 사용하는 장치
US5815198A (en) 1996-05-31 1998-09-29 Vachtsevanos; George J. Method and apparatus for analyzing an image to detect and identify defects
US7486813B2 (en) 1998-10-08 2009-02-03 Easton Hunt Capital Partners, L.P. Electronic assembly video inspection system
US6266436B1 (en) 1999-04-09 2001-07-24 Kimberly-Clark Worldwide, Inc. Process control using multiple detections
DE50003377D1 (de) 1999-03-02 2003-09-25 Siemens Ag Augmented-reality-system zur situationsgerechten unterstützung der interaktion zwischen einem anwender und einer technischen vorrichtung
US6650779B2 (en) 1999-03-26 2003-11-18 Georgia Tech Research Corp. Method and apparatus for analyzing an image to detect and identify patterns
AU5881700A (en) 1999-06-22 2001-01-09 Brooks Automation, Inc. Run-to-run controller for use in microelectronic fabrication
TW454137B (en) 1999-08-02 2001-09-11 Macronix Int Co Ltd End point data collecting and analyzing system for semiconductor apparatus and its analyzing method
US6240633B1 (en) 1999-08-11 2001-06-05 Motorola, Inc. Automatic defect detection and generation of control code for subsequent defect repair on an assembly line
JP3732053B2 (ja) 1999-09-27 2006-01-05 株式会社日立製作所 製造職場の不良の起こし易さ評価方法及びその装置、製品の組立作業不良率評価方法及びその装置並びに記録媒体
ATE303618T1 (de) 2000-03-10 2005-09-15 Smiths Detection Inc Steuerung für einen industriellen prozes mit einer oder mehreren multidimensionalen variablen
US6757571B1 (en) 2000-06-13 2004-06-29 Microsoft Corporation System and process for bootstrap initialization of vision-based tracking systems
DE10057928C1 (de) 2000-11-22 2002-02-21 Inb Vision Ag Verfahren zur Erkennung von Abweichungen der Oberflächenform von einer vorgegebenen Form
JP2002230337A (ja) 2001-02-06 2002-08-16 Hitachi Ltd 企業間取引方法及び企業間取引仲介方法
JP4677679B2 (ja) 2001-03-27 2011-04-27 株式会社デンソー 製品の製造プロセスにおける特性調整方法
US6847854B2 (en) 2001-08-10 2005-01-25 Rockwell Automation Technologies, Inc. System and method for dynamic multi-objective optimization of machine selection, integration and utilization
JP2003167613A (ja) 2001-11-30 2003-06-13 Sharp Corp 作業管理システム、作業管理方法、及びその方法を実現するためのプログラムを記憶した記録媒体
US7032816B2 (en) 2001-12-28 2006-04-25 Kimberly-Clark Worldwide, Inc. Communication between machines and feed-forward control in event-based product manufacturing
US7035877B2 (en) 2001-12-28 2006-04-25 Kimberly-Clark Worldwide, Inc. Quality management and intelligent manufacturing with labels and smart tags in event-based product manufacturing
IL164428A0 (en) 2002-01-15 2005-12-18 Thierry Cresson Computer-implemented system and method for measuring and improving manufacturing processes and maximizing product research and development speed and efficiency
US7401066B2 (en) 2002-03-21 2008-07-15 Applied Materials, Inc. Correlation of end-of-line data mining with process tool data mining
US7130710B2 (en) 2002-08-07 2006-10-31 Kimberly-Clark Worldwide, Inc. System and method for tracking and exploiting per station information from a multiple repeat manufacturing device
JP2004104576A (ja) 2002-09-11 2004-04-02 Mitsubishi Heavy Ind Ltd 作業用ウェアラブル装置、遠隔作業指示装置、遠隔作業指示方法および遠隔作業指示プログラム
CN100407215C (zh) 2002-09-30 2008-07-30 东京毅力科创株式会社 用于监视和控制半导体生产过程的方法和装置
US7202793B2 (en) 2002-10-11 2007-04-10 Attention Technologies, Inc. Apparatus and method of monitoring a subject and providing feedback thereto
US9009084B2 (en) 2002-10-21 2015-04-14 Rockwell Automation Technologies, Inc. System and methodology providing automation security analysis and network intrusion protection in an industrial environment
US8909926B2 (en) 2002-10-21 2014-12-09 Rockwell Automation Technologies, Inc. System and methodology providing automation security analysis, validation, and learning in an industrial controller environment
AU2003273085A1 (en) 2002-10-22 2004-05-13 Unho Choi Integrated emergency response system in information infrastructure and operating method therefor
EP1559060A4 (en) 2002-11-06 2007-06-13 Geometric Informatics Inc ANALYSIS OF GEOMETRIC SURFACES BY CONFORMITY STRUCTURE
JP2004178388A (ja) 2002-11-28 2004-06-24 Toppan Printing Co Ltd 後加工における品質管理システム
JP4004474B2 (ja) 2004-01-27 2007-11-07 大阪瓦斯株式会社 観察対象者の動作解析システム
US7676287B2 (en) 2004-03-03 2010-03-09 Fisher-Rosemount Systems, Inc. Configuration system and method for abnormal situation prevention in a process plant
JP2005250990A (ja) 2004-03-05 2005-09-15 Mitsubishi Electric Corp 作業支援装置
US6961626B1 (en) 2004-05-28 2005-11-01 Applied Materials, Inc Dynamic offset and feedback threshold
TWI267012B (en) 2004-06-03 2006-11-21 Univ Nat Cheng Kung Quality prognostics system and method for manufacturing processes
US7349746B2 (en) 2004-09-10 2008-03-25 Exxonmobil Research And Engineering Company System and method for abnormal event detection in the operation of continuous industrial processes
TWI269990B (en) 2005-02-04 2007-01-01 Univ Nat Cheng Kung Quality prognostics system and method for manufacturing processes with generic embedded devices
US7526463B2 (en) 2005-05-13 2009-04-28 Rockwell Automation Technologies, Inc. Neural network using spatially dependent data for controlling a web-based process
US20070050070A1 (en) 2005-08-05 2007-03-01 Pfizer Inc Automated batch manufactuirng
JP4972298B2 (ja) 2005-08-10 2012-07-11 株式会社日立ハイテクノロジーズ 半導体デバイスの欠陥検査方法及びその装置
TWI277452B (en) 2005-12-22 2007-04-01 Ind Tech Res Inst Diagnostic system for gel dispensing condition and method thereof
US8103087B2 (en) 2006-01-20 2012-01-24 Hitachi High-Technologies Corporation Fault inspection method
JP5018143B2 (ja) 2006-03-13 2012-09-05 株式会社日立製作所 設計支援方法およびそのシステム
WO2007110093A1 (en) 2006-03-27 2007-10-04 Telecom Italia S.P.A. A method and system for identifying malicious messages in mobile communication networks, related network and computer program product therefor
JP4784752B2 (ja) 2006-06-30 2011-10-05 サクサ株式会社 画像処理装置
JP4855353B2 (ja) 2006-11-14 2012-01-18 新日本製鐵株式会社 製品の品質改善条件解析装置、解析方法、コンピュータプログラム、及びコンピュータ読み取り可能な記録媒体
US7551274B1 (en) 2007-02-28 2009-06-23 Lite Sentry Corporation Defect detection lighting system and methods for large glass sheets
US8010321B2 (en) 2007-05-04 2011-08-30 Applied Materials, Inc. Metrics independent and recipe independent fault classes
JP5136026B2 (ja) 2007-11-30 2013-02-06 オムロン株式会社 工程改善支援装置、工程改善支援用プログラム、および工程改善支援用プログラムを記録した記録媒体
DE102007062376A1 (de) 2007-12-22 2009-06-25 Dietz-Automotive Gmbh & Co. Kg Verfahren zur Montage einer Baugruppe
US8131055B2 (en) 2008-01-31 2012-03-06 Caterpillar Inc. System and method for assembly inspection
DE112009005510B4 (de) 2008-01-31 2025-10-09 Fisher-Rosemount Systems, Inc. Robuster adaptiver modellprädiktiver Regler mit Abstimmung zum Ausgleich einer Modellfehlanpassung
US7974723B2 (en) 2008-03-06 2011-07-05 Applied Materials, Inc. Yield prediction feedback for controlling an equipment engineering system
WO2009122393A2 (en) 2008-03-31 2009-10-08 Brightview Systems Ltd. A method and system for photovoltaic cell production yield enhancement
JP5012660B2 (ja) 2008-05-22 2012-08-29 住友金属工業株式会社 製品品質予測および制御方法
US20100106458A1 (en) 2008-10-28 2010-04-29 Leu Ming C Computer program and method for detecting and predicting valve failure in a reciprocating compressor
US9671357B2 (en) 2009-12-10 2017-06-06 Emhardt Glass S.A. System and method for monitoring hot glass containers to enhance their quality and control the forming process
KR101575910B1 (ko) 2009-12-18 2015-12-08 두산인프라코어 주식회사 오차 자동 보정 기능을 가진 수치 제어 시스템 및 이를 이용한 오차 자동 보정 방법
CN101771702B (zh) * 2010-01-05 2015-06-10 中兴通讯股份有限公司 点对点网络中防御分布式拒绝服务攻击的方法及系统
US9355441B2 (en) 2010-06-28 2016-05-31 Precitec Kg Method for closed-loop controlling a laser processing operation and laser material processing head using the same
TWI427722B (zh) 2010-08-02 2014-02-21 Univ Nat Cheng Kung 使用具有信心指標之虛擬量測的先進製程控制系統與方法及其電腦程式產品
TWI426242B (zh) 2010-11-03 2014-02-11 Ind Tech Res Inst 動力設備異常檢測裝置及其檢測方法
JP2012123521A (ja) 2010-12-07 2012-06-28 Toppan Printing Co Ltd 製造装置のプロセス条件と判定条件の自動変更システム
DE102011075467A1 (de) 2011-05-06 2012-11-08 Deckel Maho Pfronten Gmbh Vorrichtung zum bedienen einer automatisierten maschine zur handhabung, montage oder bearbeitung von werkstücken
US8949668B2 (en) 2011-05-23 2015-02-03 The Boeing Company Methods and systems for use in identifying abnormal behavior in a control system including independent comparisons to user policies and an event correlation model
WO2013033442A1 (en) 2011-08-30 2013-03-07 Digimarc Corporation Methods and arrangements for identifying objects
US9110452B2 (en) 2011-09-19 2015-08-18 Fisher-Rosemount Systems, Inc. Inferential process modeling, quality prediction and fault detection using multi-stage data segregation
US11269891B2 (en) 2014-08-21 2022-03-08 Affectomatics Ltd. Crowd-based scores for experiences from measurements of affective response
SG192295A1 (en) 2012-01-10 2013-08-30 K One Ind Pte Ltd Flexible assembly line for tray packaging
US8732627B2 (en) 2012-06-18 2014-05-20 International Business Machines Corporation Method and apparatus for hierarchical wafer quality predictive modeling
US9386030B2 (en) 2012-09-18 2016-07-05 Vencore Labs, Inc. System and method for correlating historical attacks with diverse indicators to generate indicator profiles for detecting and predicting future network attacks
CN105050868B (zh) * 2012-10-17 2018-12-21 安全堡垒有限责任公司 用于检测和防止对交通工具的攻击的设备
EP2922380B1 (en) 2012-11-13 2019-03-27 FUJI Corporation Substrate production state monitoring device
US10386827B2 (en) 2013-03-04 2019-08-20 Fisher-Rosemount Systems, Inc. Distributed industrial performance monitoring and analytics platform
EP2965286A1 (en) 2013-03-04 2016-01-13 Rite-Hite Holding Corporation Methods and apparatus for video based process monitoring and control
US10649449B2 (en) 2013-03-04 2020-05-12 Fisher-Rosemount Systems, Inc. Distributed industrial performance monitoring and analytics
US20140303912A1 (en) 2013-04-07 2014-10-09 Kla-Tencor Corporation System and method for the automatic determination of critical parametric electrical test parameters for inline yield monitoring
US9989958B2 (en) 2013-05-09 2018-06-05 Rockwell Automation Technologies, Inc. Using cloud-based data for virtualization of an industrial automation environment
US9703902B2 (en) 2013-05-09 2017-07-11 Rockwell Automation Technologies, Inc. Using cloud-based data for industrial simulation
CN103324175B (zh) 2013-06-09 2016-02-03 广东豪美铝业股份有限公司 一种铝型材生产线的管控系统
US9855698B2 (en) 2013-08-07 2018-01-02 Massachusetts Institute Of Technology Automatic process control of additive manufacturing device
US9171160B2 (en) 2013-09-30 2015-10-27 Fireeye, Inc. Dynamically adaptive framework and method for classifying malware using intelligent static, emulation, and dynamic analyses
DE102013018654A1 (de) 2013-10-30 2015-04-30 Jenoptik Automatisierungstechnik Gmbh Verfahren und Vorrichtung zur Detektion und zur Korrektur einer räumlichen Lage eines in einer Positionierungseinrichtung gehaltenen Werkstücks
JP6113631B2 (ja) 2013-11-18 2017-04-12 東芝三菱電機産業システム株式会社 作業確認システム
TWI581203B (zh) 2013-11-22 2017-05-01 生禾禾科技實業有限公司 Cloud monitoring device
GB2520987B (en) * 2013-12-06 2016-06-01 Cyberlytic Ltd Using fuzzy logic to assign a risk level profile to a potential cyber threat
KR102139382B1 (ko) 2013-12-26 2020-07-30 두산공작기계 주식회사 공작기계용 수치제어 프로그램 제공 장치 및 그 방법
US20150184549A1 (en) 2013-12-31 2015-07-02 General Electric Company Methods and systems for enhancing control of power plant generating units
CN103905451B (zh) * 2014-04-03 2017-04-12 国网河南省电力公司电力科学研究院 一种智能电网嵌入式设备网络攻击诱捕系统和诱捕方法
TWM489443U (en) 2014-06-20 2014-11-01 Cheng Uei Precision Ind Co Ltd Headphone
WO2015198309A1 (en) 2014-06-23 2015-12-30 Hochman Eldad Izhak Detection of human-machine interaction errors
KR102521159B1 (ko) 2014-11-25 2023-04-13 피디에프 솔루션즈, 인코포레이티드 반도체 제조 공정을 위한 개선된 공정 제어 기술
US10430719B2 (en) 2014-11-25 2019-10-01 Stream Mosaic, Inc. Process control techniques for semiconductor manufacturing processes
GB201501534D0 (en) 2015-01-30 2015-03-18 Rolls Royce Plc Methods and systems for detecting, classifying and/or mitigating sensor error
JP2016157357A (ja) 2015-02-26 2016-09-01 株式会社日立製作所 作業者品質管理方法及び作業者品質管理装置
US9979606B2 (en) * 2015-03-04 2018-05-22 Qualcomm Incorporated Behavioral analysis to automate direct and indirect local monitoring of internet of things device health
US9846934B2 (en) 2015-04-13 2017-12-19 Anchor Semiconductor Inc. Pattern weakness and strength detection and tracking during a semiconductor device fabrication process
JP6356909B2 (ja) 2015-04-23 2018-07-11 株式会社東芝 クライアントシステム、クライアントシステムの管理方法、システムコントローラ
JP6156441B2 (ja) 2015-05-14 2017-07-05 オムロン株式会社 作業管理システムおよび作業管理方法
US20160352762A1 (en) 2015-05-26 2016-12-01 International Business Machines Corporation Probabilistically Detecting Low Intensity Threat Events
US10044749B2 (en) * 2015-07-31 2018-08-07 Siemens Corporation System and method for cyber-physical security
CN105094030A (zh) 2015-08-06 2015-11-25 上海卓佑计算机技术有限公司 机房环境数据管理及实时分析处理系统
US10176408B2 (en) 2015-08-14 2019-01-08 Elucid Bioimaging Inc. Systems and methods for analyzing pathologies utilizing quantitative imaging
US10015188B2 (en) * 2015-08-20 2018-07-03 Cyberx Israel Ltd. Method for mitigation of cyber attacks on industrial control systems
US9792531B2 (en) 2015-09-16 2017-10-17 Siemens Healthcare Gmbh Intelligent multi-scale medical image landmark detection
US10476899B2 (en) 2015-09-25 2019-11-12 Mcafee, Llc Application phenotyping
US10320814B2 (en) 2015-10-02 2019-06-11 Trend Micro Incorporated Detection of advanced persistent threat attack on a private computer network
JP2017091091A (ja) 2015-11-06 2017-05-25 三菱電機株式会社 作業情報生成装置
US20170134405A1 (en) 2015-11-09 2017-05-11 Qualcomm Incorporated Dynamic Honeypot System
US10152879B2 (en) 2015-11-10 2018-12-11 Industrial Technology Research Institute Method, apparatus, and system for monitoring manufacturing equipment
IL242808A0 (en) * 2015-11-26 2016-04-21 Rafael Advanced Defense Sys System and method to detect cyber attacks on ics/scada controlled plants
JP6693114B2 (ja) * 2015-12-15 2020-05-13 横河電機株式会社 制御装置及び統合生産システム
WO2017106734A1 (en) 2015-12-16 2017-06-22 Martineau Pierre R Method and apparatus for remanent imaging control
US9973528B2 (en) * 2015-12-21 2018-05-15 Fortinet, Inc. Two-stage hash based logic for application layer distributed denial of service (DDoS) attack attribution
CN105488806B (zh) 2015-12-23 2018-08-03 华中科技大学 一种工件位置追踪定位方法及定位系统
US10365639B2 (en) 2016-01-06 2019-07-30 Kla-Tencor Corporation Feature selection and automated process window monitoring through outlier detection
US10713776B2 (en) 2017-04-13 2020-07-14 Instrumental, Inc. Method for predicting defects in assembly units
US11132787B2 (en) * 2018-07-09 2021-09-28 Instrumental, Inc. Method for monitoring manufacture of assembly units
US11144842B2 (en) 2016-01-20 2021-10-12 Robert Bosch Gmbh Model adaptation and online learning for unstable environments
EP3200037A1 (en) 2016-01-26 2017-08-02 Basf Se System and method for risk based control of a process performed by production equipment
US11011074B2 (en) 2016-03-04 2021-05-18 Ns Solutions Corporation Information processing system, information processor, information processing method and program
DE102016203674A1 (de) 2016-03-07 2017-09-07 Homag Gmbh Verfahren zum Betreiben einer Durchlaufmaschine sowie Durchlaufmaschine
US10027699B2 (en) * 2016-03-10 2018-07-17 Siemens Aktiengesellschaft Production process knowledge-based intrusion detection for industrial control systems
WO2017160913A1 (en) 2016-03-15 2017-09-21 Sri International Intrusion detection via semantic fuzzing and message provenance
US9998487B2 (en) * 2016-04-25 2018-06-12 General Electric Company Domain level threat detection for industrial asset control system
CN114625077B (zh) 2016-05-09 2024-12-17 强力物联网投资组合2016有限公司 用于工业物联网的方法和系统
JP6890382B2 (ja) 2016-05-23 2021-06-18 ルネサスエレクトロニクス株式会社 生産システム
JP2017215277A (ja) 2016-06-02 2017-12-07 住友化学株式会社 欠陥検査システム、フィルム製造装置及び欠陥検査方法
JP6608778B2 (ja) 2016-08-01 2019-11-20 株式会社日立製作所 作業動作指示装置
WO2018044410A1 (en) 2016-09-01 2018-03-08 Siemens Aktiengesellschaft High interaction non-intrusive industrial control system honeypot
US11464149B2 (en) 2016-09-26 2022-10-04 Fuji Corporation System for monitoring outside work area of component mounting machine
JP6723669B2 (ja) 2016-09-27 2020-07-15 東京エレクトロン株式会社 異常検知プログラム、異常検知方法および異常検知装置
US20200024712A1 (en) 2016-09-30 2020-01-23 Uacj Corporation Device for predicting aluminum product properties, method for predicting aluminum product properties, control program, and storage medium
EP3506140B1 (en) 2016-10-06 2021-04-14 Nippon Telegraph and Telephone Corporation Hacking code sensing device, hacking code sensing method, and hacking code sensing program
US11126946B2 (en) 2016-10-20 2021-09-21 Diwo, Llc Opportunity driven system and method based on cognitive decision-making process
TWI606422B (zh) 2016-10-20 2017-11-21 Kinko Optical Co Limited Miniature camera lens image detection method
US10678912B2 (en) * 2016-11-15 2020-06-09 General Electric Company Dynamic normalization of monitoring node data for threat detection in industrial asset control system
US10558750B2 (en) 2016-11-18 2020-02-11 Salesforce.Com, Inc. Spatial attention model for image captioning
US20180150070A1 (en) 2016-11-29 2018-05-31 Caterpillar Inc. Portable inspection and control device
US10417415B2 (en) * 2016-12-06 2019-09-17 General Electric Company Automated attack localization and detection
US10204226B2 (en) 2016-12-07 2019-02-12 General Electric Company Feature and boundary tuning for threat detection in industrial asset control system
JP6778277B2 (ja) 2016-12-07 2020-10-28 株式会社日立製作所 品質管理装置及び品質管理方法
US20180165602A1 (en) 2016-12-14 2018-06-14 Microsoft Technology Licensing, Llc Scalability of reinforcement learning by separation of concerns
JP6506245B2 (ja) 2016-12-26 2019-04-24 ファナック株式会社 組付動作を学習する機械学習装置および部品組付システム
CN106857797A (zh) 2017-01-17 2017-06-20 陕西科技大学 一种真空脉动干燥网络化远程多参数监控与信息服务系统
US11277420B2 (en) 2017-02-24 2022-03-15 Ciena Corporation Systems and methods to detect abnormal behavior in networks
EP3379357B1 (en) 2017-03-24 2019-07-10 ABB Schweiz AG Computer system and method for monitoring the technical state of industrial process systems
US10365640B2 (en) 2017-04-11 2019-07-30 International Business Machines Corporation Controlling multi-stage manufacturing process based on internet of things (IoT) sensors and cognitive rule induction
EP3392711A1 (en) 2017-04-19 2018-10-24 ASML Netherlands B.V. Maintaining a set of process fingerprints
CN106921676B (zh) 2017-04-20 2020-05-08 电子科技大学 一种基于OPCClassic的入侵检测方法
US10409614B2 (en) 2017-04-24 2019-09-10 Intel Corporation Instructions having support for floating point and integer data types in the same register
US10234848B2 (en) 2017-05-24 2019-03-19 Relativity Space, Inc. Real-time adaptive control of additive manufacturing processes using machine learning
US10805317B2 (en) 2017-06-15 2020-10-13 Microsoft Technology Licensing, Llc Implementing network security measures in response to a detected cyber attack
KR102356042B1 (ko) 2017-06-22 2022-01-26 울산과학기술원 영상 기반 3d 프린터의 제조품 품질 평가 장치 및 그 방법
US10419468B2 (en) 2017-07-11 2019-09-17 The Boeing Company Cyber security system with adaptive machine learning features
US10360671B2 (en) 2017-07-11 2019-07-23 Kla-Tencor Corporation Tool health monitoring and matching
JP6856122B2 (ja) 2017-07-13 2021-04-07 日本電気株式会社 学習システム、分析システム、学習方法及び記憶媒体
US9977425B1 (en) 2017-07-14 2018-05-22 General Electric Company Systems and methods for receiving sensor data for an operating manufacturing machine and producing an alert during manufacture of a part
US10505955B2 (en) 2017-08-22 2019-12-10 General Electric Company Using virtual sensors to accommodate industrial asset control systems during cyber attacks
CN107389701A (zh) 2017-08-22 2017-11-24 西北工业大学 一种基于图像的pcb表观缺陷自动检测系统及方法
US11511373B2 (en) 2017-08-25 2022-11-29 Massachusetts Institute Of Technology Sensing and control of additive manufacturing processes
US10530787B2 (en) 2017-08-30 2020-01-07 International Business Machines Corporation Detecting malware attacks using extracted behavioral features
US11609623B2 (en) 2017-09-01 2023-03-21 Qualcomm Incorporated Ultra-low power neuromorphic artificial intelligence computing accelerator
WO2019058532A1 (ja) 2017-09-22 2019-03-28 日本たばこ産業株式会社 製品情報取得システム、及び製品情報の取得方法
US10394229B2 (en) 2017-09-27 2019-08-27 International Business Machines Corporation Orchestration of learning and execution of model predictive control tool for manufacturing processes
JP7010641B2 (ja) 2017-09-27 2022-01-26 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 異常診断方法および異常診断装置
US10061300B1 (en) 2017-09-29 2018-08-28 Xometry, Inc. Methods and apparatus for machine learning predictions and multi-objective optimization of manufacturing processes
CN111356964A (zh) 2017-09-30 2020-06-30 西门子股份公司 一种数控机床的故障诊断方法和装置
US10673871B2 (en) 2017-10-04 2020-06-02 New Context Services, Inc. Autonomous edge device for monitoring and threat detection
CN107886500A (zh) 2017-10-13 2018-04-06 北京邮电大学 一种基于机器视觉和机器学习的产品生产监控方法及系统
US20190139441A1 (en) 2017-11-03 2019-05-09 Drishti Technologies, Inc. Contextual training systems and methods
US10621494B2 (en) 2017-11-08 2020-04-14 Samsung Electronics Co., Ltd. System and method for circuit simulation based on recurrent neural networks
JP6879888B2 (ja) * 2017-11-17 2021-06-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 情報処理装置、情報処理方法、及び、プログラム
US10102495B1 (en) 2017-12-18 2018-10-16 Samsara Networks Inc. Automatic determination that delivery of an untagged item occurs
US11120127B2 (en) 2017-12-27 2021-09-14 Nec Corporation Reconstruction-based anomaly detection
KR20190081691A (ko) * 2017-12-29 2019-07-09 비컴솔루션 주식회사 머신러닝 알고리즘을 이용한 공정 이상 감지 시스템 및 그 방법
US10579494B2 (en) 2018-01-05 2020-03-03 Nec Corporation Methods and systems for machine-learning-based resource prediction for resource allocation and anomaly detection
US10970834B2 (en) 2018-01-05 2021-04-06 Kla-Tencor Corporation Defect discovery using electron beam inspection and deep learning with real-time intelligence to reduce nuisance
US10805329B2 (en) * 2018-01-19 2020-10-13 General Electric Company Autonomous reconfigurable virtual sensing system for cyber-attack neutralization
US10785237B2 (en) * 2018-01-19 2020-09-22 General Electric Company Learning method and system for separating independent and dependent attacks
GB2578268B (en) * 2018-01-29 2021-12-29 Ge Aviat Systems Ltd Configurable network switch for industrial control systems including deterministic networks
US10944767B2 (en) 2018-02-01 2021-03-09 International Business Machines Corporation Identifying artificial artifacts in input data to detect adversarial attacks
US10623000B2 (en) 2018-02-14 2020-04-14 iCometrue Company Ltd. Logic drive using standard commodity programmable logic IC chips
EP3528461B8 (en) * 2018-02-20 2022-06-22 Darktrace Holdings Limited A cyber threat defense system protecting email networks with machine learning models
JP6635274B2 (ja) 2018-02-23 2020-01-22 株式会社安川電機 製品品質管理システム
US11106902B2 (en) 2018-03-13 2021-08-31 Adobe Inc. Interaction detection model for identifying human-object interactions in image content
KR102813170B1 (ko) 2018-03-13 2025-05-28 어플라이드 머티어리얼스, 인코포레이티드 반도체 처리의 모니터링을 위한 기계 학습 시스템들
US11398379B2 (en) 2018-03-20 2022-07-26 Tokyo Electron Limited Platform and method of operating for integrated end-to-end self-aligned multi-patterning process
SG11202009105YA (en) 2018-03-20 2020-10-29 Tokyo Electron Ltd Self-aware and correcting heterogenous platform incorporating integrated semiconductor processing modules and method for using same
WO2019191002A1 (en) 2018-03-26 2019-10-03 Nvidia Corporation Object movement behavior learning
US11934520B2 (en) * 2018-03-28 2024-03-19 Nvidia Corporation Detecting data anomalies on a data interface using machine learning
US20190302707A1 (en) 2018-03-28 2019-10-03 Mitsubishi Electric Research Laboratories, Inc. Anomaly Detection in Manufacturing Systems Using Structured Neural Networks
US10518480B2 (en) 2018-04-02 2019-12-31 Nanotronics Imaging, Inc. Systems, methods, and media for artificial intelligence feedback control in additive manufacturing
US11165799B2 (en) 2018-04-05 2021-11-02 Microsoft Technology Licensing, Llc Anomaly detection and processing for seasonal data
US10733723B2 (en) 2018-05-22 2020-08-04 Midea Group Co., Ltd. Methods and system for improved quality inspection
US11225039B2 (en) 2018-06-08 2022-01-18 Aurora Flight Sciences Corporation Systems and methods to automate composite manufacturing quality checks
TWI696959B (zh) 2018-06-12 2020-06-21 蟲洞科技股份有限公司 機台參數擷取裝置
US10686807B2 (en) 2018-06-12 2020-06-16 International Business Machines Corporation Intrusion detection system
US10840840B2 (en) 2018-06-14 2020-11-17 Mitsubishi Electric Corporation Machine learning correction parameter adjustment apparatus and method for use with a motor drive control system
US10685159B2 (en) 2018-06-27 2020-06-16 Intel Corporation Analog functional safety with anomaly detection
US11146579B2 (en) * 2018-09-21 2021-10-12 General Electric Company Hybrid feature-driven learning system for abnormality detection and localization
CN109167796B (zh) 2018-09-30 2020-05-19 浙江大学 一种基于工业scada系统的深度包检测平台
US10930531B2 (en) 2018-10-09 2021-02-23 Applied Materials, Inc. Adaptive control of wafer-to-wafer variability in device performance in advanced semiconductor processes
US11170314B2 (en) * 2018-10-22 2021-11-09 General Electric Company Detection and protection against mode switching attacks in cyber-physical systems
US20200166909A1 (en) 2018-11-20 2020-05-28 Relativity Space, Inc. Real-time adaptive control of manufacturing processes using machine learning
US10896261B2 (en) 2018-11-29 2021-01-19 Battelle Energy Alliance, Llc Systems and methods for control system security
DE102018221002A1 (de) 2018-12-05 2020-06-10 Robert Bosch Gmbh Steuereinrichtung zur Steuerung einer Fertigungsanlage sowie Fertigungsanlage und Verfahren
CN109766992B (zh) 2018-12-06 2020-12-04 北京工业大学 基于深度学习的工控异常检测及攻击分类方法
JP7056592B2 (ja) 2019-01-17 2022-04-19 Ｊｆｅスチール株式会社 金属材料の製造仕様決定方法、製造方法、および製造仕様決定装置
CN109561112A (zh) 2019-01-25 2019-04-02 虞定生 一种人工智能实时检测安全攻击系统
US11209795B2 (en) 2019-02-28 2021-12-28 Nanotronics Imaging, Inc. Assembly error correction for assembly lines
US10481579B1 (en) 2019-02-28 2019-11-19 Nanotronics Imaging, Inc. Dynamic training for assembly lines
US11265336B2 (en) 2019-03-28 2022-03-01 Red Hat, Inc. Detecting anomalies in networks
KR102784872B1 (ko) 2019-04-19 2025-03-20 나노트로닉스 이미징, 인코포레이티드 조립 라인에 대한 조립 오차 수정을 위한 방법 및 시스템
US11156991B2 (en) 2019-06-24 2021-10-26 Nanotronics Imaging, Inc. Predictive process control for a manufacturing process
CN110677408B (zh) 2019-07-09 2021-07-09 腾讯科技（深圳）有限公司 攻击信息的处理方法和装置、存储介质及电子装置
EP4028228B1 (en) 2019-09-10 2025-12-31 Nanotronics Imaging, Inc. SYSTEMS, PROCESSES AND SUPPORTS FOR MANUFACTURING PROCESSES
US12153401B2 (en) 2019-11-06 2024-11-26 Nanotronics Imaging, Inc. Systems, methods, and media for manufacturing processes
US12165353B2 (en) 2019-11-06 2024-12-10 Nanotronics Imaging, Inc. Systems, methods, and media for manufacturing processes
US12153408B2 (en) 2019-11-06 2024-11-26 Nanotronics Imaging, Inc. Systems, methods, and media for manufacturing processes
JP7289171B2 (ja) 2019-11-07 2023-06-09 ナノトロニクス イメージング インコーポレイテッド 製造プロセスのためのシステム、方法、および媒体
CN110851834B (zh) 2019-11-18 2024-02-27 北京工业大学 融合多特征分类的安卓恶意应用检测方法
JP2023515015A (ja) 2020-02-21 2023-04-12 ナノトロニクス イメージング インコーポレイテッド 製造プロセスのためのシステム、方法、及び媒体
WO2021247852A1 (en) 2020-06-03 2021-12-09 Nanotronics Imaging, Inc. Controlled growth system for biologicals

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4621773B2 (ja) * 2005-05-17 2011-01-26 エーテーハー アイトヘネーシシェ テフニーシェ ホフシューレ チューリッヒ ネットワーク内の移動ユニットの輸送を制御するための競合プロセスの調整方法
TWI409658B (zh) * 2008-03-31 2013-09-21 東京威力科創股份有限公司 多層／多輸入／多輸出模型及其使用方法
US20100131202A1 (en) * 2008-11-13 2010-05-27 Saint Louis University Apparatus and method for providing environmental predictive indicators to emergency response managers
CN105960777A (zh) * 2013-10-21 2016-09-21 尼妍萨有限公司 使用远程网络管理器观察和控制可编程网络的系统和方法
CN106687981A (zh) * 2014-06-24 2017-05-17 弗塞克系统公司 用于自动化检测输入和输出验证和资源管理漏洞的系统和方法
CN107835982A (zh) * 2015-05-04 2018-03-23 赛义德·卡姆兰·哈桑 用于在计算机网络中管理安全性的方法和设备
CN107851047A (zh) * 2015-05-22 2018-03-27 动力指纹股份有限公司 使用诸如侧信道信息的功率特点进行入侵检测和分析的系统、方法和装置
US20180321667A1 (en) * 2016-05-09 2018-11-08 StrongForce IoT Portfolio 2016, LLC Methods and systems for data processing in an industrial internet of things data collection environment with large data sets
CN107976969A (zh) * 2016-10-24 2018-05-01 费希尔-罗斯蒙特系统公司 过程设备状况和性能监控

Also Published As

Publication number Publication date
TW202139003A (zh) 2021-10-16
JP7698333B2 (ja) 2025-06-25
TW202536646A (zh) 2025-09-16
JP2025128264A (ja) 2025-09-02
TWI812329B (zh) 2023-08-11
TW202242648A (zh) 2022-11-01
KR20220079683A (ko) 2022-06-13
TW202347125A (zh) 2023-12-01
CN114730279A (zh) 2022-07-08
CN114730279B (zh) 2025-03-11
KR102866210B1 (ko) 2025-09-29
US20250094577A1 (en) 2025-03-20
US12153668B2 (en) 2024-11-26
JP2023502394A (ja) 2023-01-24
JP2024020353A (ja) 2024-02-14
EP4062285A1 (en) 2022-09-28
US20210256116A1 (en) 2021-08-19
JP7389518B2 (ja) 2023-11-30
EP4062285A4 (en) 2023-12-27
TWI887697B (zh) 2025-06-21
WO2021102223A1 (en) 2021-05-27

Similar Documents

Publication Publication Date Title
TWI772976B (zh) 用於判定網路攻擊及產生警告之製造系統及電腦實施方法
US11693956B2 (en) Dynamic monitoring and securing of factory processes, equipment and automated systems
CN114585981B (zh) 用于制造过程的系统、方法和介质
US12155673B2 (en) Dynamic monitoring and securing of factory processes, equipment and automated systems
US11669058B1 (en) Dynamic monitoring and securing of factory processes, equipment and automated systems