逃避AI監控神器?德藝術家設計「數碼迷彩」恤 可騙過人形辨識系統

加拿大都市网

在監控鏡頭愈來愈懂得「認人」的年代,德國藝術家西蒙.韋克特(Simon Weckert)反其道而行,設計出一件名為「數碼迷彩」(Digital Camouflage)的夏威夷恤。衣服表面布滿粉紅、橙色及綠色抽象圖案,對人眼而言極為搶眼,卻能干擾部分人工智能(AI)人物偵測系統,令電腦無法把穿着者辨識為「人」。

花俏圖案專攻AI視覺盲點

不過,這件恤衫並非真正的「隱形斗篷」。韋克特強調,作品只曾以通用的開源物件偵測系統YOLO示範,沒有證據顯示它能騙過警方或政府實際使用的監控設備。

现今世代监控镜头无处不在。IG@simonweckert(下同)
現今世代監控鏡頭無處不在。IG@simonweckert(下同)
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
這款名為「數碼迷彩」(Digital Camouflage)的夏威夷恤,可成功避過AI人形識別系統。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
這款名為「數碼迷彩」(Digital Camouflage)的夏威夷恤,可成功避過AI人形識別系統。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布滿粉紅、橙色及綠色抽象圖案,對人眼而言極為搶眼,卻能干擾部分人工智能(AI)人物偵測系統。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布滿粉紅、橙色及綠色抽象圖案,對人眼而言極為搶眼,卻能干擾部分人工智能(AI)人物偵測系統。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布滿粉紅、橙色及綠色抽象圖案,對人眼而言極為搶眼,卻能干擾部分人工智能(AI)人物偵測系統。
衣服表面布满粉红、橙色及绿色抽象图案,对人眼而言极为抢眼,却能干扰部分人工智能(AI)人物侦测系统。
衣服表面布滿粉紅、橙色及綠色抽象圖案,對人眼而言極為搶眼,卻能干擾部分人工智能(AI)人物偵測系統。
这款名为“数码迷彩”(Digital Camouflage)的夏威夷恤,可成功避过AI人形识别系统。
這款名為「數碼迷彩」(Digital Camouflage)的夏威夷恤,可成功避過AI人形識別系統。

據科技及設計媒體報道,「數碼迷彩」乍看像一件風格誇張的夏威夷恤,衣服上的每一道線條、色彩及形狀卻並非隨意繪製,而是經過運算優化,專門針對AI判斷人體時依賴的視覺特徵。

韋克特解釋,電腦視覺系統並非像人類般真正理解「人」的概念,而是透過分析大量訓練圖片,學習哪些邊緣、色彩、紋理、輪廓及身體比例通常與人類有關。

辨識系統首先會在畫面中尋找明暗對比及線條,繼而嘗試拼合頭部、肩膀、軀幹與四肢的關係。恤衫上的高飽和色彩及互相重疊的不規則圖案,會向系統輸入大量混亂訊號,破壞人體輪廓的連續性,令模型對「眼前是一個人」的信心下降。

靠AI反覆測試 直至辨識信心崩潰

更有趣的是,這件用來對抗AI監視的恤衫,本身亦是利用運算模型協助設計。

韋克特採用俗稱「對抗迴圈」(adversarial loop)的方法,先生成候選圖案,再把圖像交給人物偵測模型分析,量度系統有多大把握認為畫面中存在一個人。設計程式其後按照結果調整色彩、線條及紋理,再次接受測試,如此反覆進行,直至偵測模型的判斷信心大幅下降。

在藝術家公開的示範片段中,普通途人的身體會被YOLO系統以方框標示並分類為「person」,穿上「數碼迷彩」恤衫的人卻在部分畫面中沒有被標記,彷彿從電腦眼中消失。

這項技術在電腦科學中稱為「對抗攻擊」(adversarial attack),即透過精心設計的圖像、紋理或微小視覺變化,令AI模型作出錯誤判斷。過往研究人員曾在衣服上印製特定圖案,測試人物偵測系統面對穿着者走動、轉身及布料折曲時,能否維持辨識能力。

2019年的「對抗T恤」研究顯示,針對YOLOv2設計的實體衣服,在測試環境下可明顯降低人物偵測率;其後的研究則利用立體建模,令圖案在不同角度及衣物變形時仍能發揮作用。不過,成效會隨鏡頭距離、光線、穿着姿勢及所用模型而改變,對一套系統有效的圖案,換上另一套系統未必奏效。

回應柏林引入智能監控 屬藝術項目非保安產品

韋克特把「數碼迷彩」形容為一項由2025年開始、仍在發展中的穿戴式藝術作品,創作背景與柏林科特布斯門廣場(Kottbusser Tor)引入智能攝錄及行為分析技術有關。

他指出,這類系統不但拍攝途人,亦可能嘗試把擁抱、跳舞、爭執或打鬥等動作分類為「正常」或「可疑」。作品希望提出一個問題:當公共空間內的監控演算法缺乏透明度,外界亦無法獨立測試時,社會應在多大程度上信任機器的判斷?

韋克特特別提醒,「數碼迷彩」是藝術項目,不是保安產品,也不是供人逃避執法的工具。它針對的是「人物偵測」,即系統判斷畫面中有沒有人的第一個步驟,並不等同確認身份的「人臉識別」。

「數碼迷彩」最耐人尋味之處,或許正是它造成的視覺反差:在人群中最奪目的一件衣服,反而有機會成為AI眼中最不顯眼的人。它未必足以令人逃離監控,卻成功提醒公眾,再先進的人工智能,也可能被一塊布揭開盲點。

share to wechat

延伸阅读

延伸阅读

荷兰住宅爆枪击案1死2伤 警拘多国疑犯34人

美日罕联手托日圆前传?贝森特据报晚宴向日本财首吐槽 不满高市经济政策 

南韩350间公共机构逐步向地方迁移 总统府料2029年前搬往世宗市

搞笑诺贝尔奖 | 如何高效擤鼻涕 埋千条内裤分析土壤获奖