0
  • Page Views 1597

Facebook和Google將有新的手段去阻擋極端主義的影片

根據兩名熟悉網際網路的人所稱,一些網路上的影音網站已經偷偷的自動刪除內容過於極端的影片。

這項措施對於這些網路公司來說是重要的一步,這是為了根除暴力行為在他們網站的宣傳,以及受到全世界政府的壓力去阻止恐怖主義攻擊的擴散。

根據傳聞,Youtube和Facebook都在他們的網站佈署了系統,以迅速的阻擋伊斯蘭國的影片以及含有類似元素的影片。

該系統的最初目的是為了查詢並刪除有可能涉及侵害版權的影片,像是「hashes」這類獨特的關鍵字讓網路公司能夠自動的鎖定並辨識影片,並將符合該關鍵字的內容都予以快速刪除。

這項系統將會很快地補捉內容未經認可的影片,但對於過去未曾見過的影片不會自動的阻擋。

該公司不願證實他們所使用的方法以及該技術如何的被使用,但據熟悉該項技術的人們所說,新影片的發布將會與資料庫中禁止的內容進行核對,例如斬首或是其他宣揚暴力行動的影片。

但是消息來源並沒有討論到有多少人參與影片辨識或是比對,也未提到什麼樣的影片會被歸類於極端主義的影片。

隨著時間的演進,這項技術的使用可能會成為網路公司和他的競爭對手,以及其他網路領域內部的重要議題。

在今年的四月下旬,由於受到來自美國總統歐巴馬及其他關注網路的歐洲領導人的壓力,網路公司包括Alphabet底下的Youtube、Twitter、Facebook以及CloudFlare進行了電話會議來共同討論出解決方案,包括從網站上去阻擋極端主義的內容。

雖然各公司集中在一起討論,但實際上這些世界上擁有影響力的公司在解決如恐佈主義的議題、言論自由以及政商之間的關係仍是各自為政。

沒有任何公司在打擊極端主義的方法上取得共識,他們都各自採取審慎的態度管理他們自己的網站。

「比起版權侵犯或是兒童色情這類明顯違法的狀況不太一樣」華盛頓大學極端主義課程副主任Seamus Hughes說到。

就極端主義的範疇,Hughes說,不同的網路公司所認定的範圍並不相同。

截至目前為止,大多數被標記違反服務條款的用戶,這些被舉報違規的內容仍多依賴人工的方式做逐一的審查。

而使用自動化辨識系統的公司也並未做公開的討論,根據兩名消息人士指出,出自於關心,恐怖份子可能會學習使用這套系統或是專制的政權以此系統來做內容審查。

「這些公司所談論內容的過於廣泛」CloudFlare的首席執行長Matthew Prince說,「為什麼要誇大審查的效果?」

兩名熟悉該技術演進的人士證實了路透社的報導,打擊極端主義的議題在前幾週首次公開說明該內容審查系統,並敦促網路公司採用該技術。

其他解決方案的隱憂

四月所召開的電話會議是由Facebook的全球營運管理負責人Monika Bickert做總召,在該會議中Facebook就該議題提供了幾個選項,根據一位與會者所稱,項目中包括成立非營利性質的反極端主義組織。

打擊極端主義的組織的成立,成員包括其它人,像是前總統布希的國土安全顧問Frances Townsend,以及幫助布希於2004競選連任的Mark Wallace。

關於四月的會議有三個消息來源指出,將由外部的團隊來決定公司如何定義什麼內容屬於不可接受的範圍內。

該會議中還提出其他的方辦包括建立一個新的行業非營利組織,或是擴大現有的工業非營利組織,然而所有的選項討論都將這技術導向更糟的地步。

對於一個由行業所贊助的組織模型,可能類似非營利的國家失蹤與受虐兒中心。目前用於辨別兒同色情的系統PhotoDNA,是由微軟所免費授權。

微軟於五月宣布提供Dartmouth大學的電腦科學家Hany Farid資金以及技術上的支援,Hany Farid在過去曾協助開發PhotoDNA,「發展技術去幫助關係人的人去識別恐佈主義的內容。」

Facebook的Bickert也認可一些打擊恐怖主義的建議,並在整個會議中表示關切,熟悉內容的兩名人士說,她拒絕公開的於電話中通話或在Facebook上發表評論,但除了在一份Facebook的聲明中指出「對於其他同行我們可以進行合作,並刪除違反我們打擊恐怖主義政策的內容。」

最近幾週,一名消息人士說,Facebook已經向其他公司發出一份調查,詢問他們對產業合作這一議題上的不同意見。

Alphabet的Google發言人William Fitzgerald也拒絕在電話會議中公開談論關於公司的自動化技術。

一名Twitter的發言人表示,該公司對於打擊反極端主義的建議書仍在評估中,目前並未採取任何立場。

一名Google前員工說人們長期以來一直在討論使用Content ID系統去防止版權的侵犯以及公司如何和創作者分享利潤,根據一名熟悉的相關人士稱,Google的內容媒合系統比起Facebook要來得成熟比例先進。

Lisa Monaco,美國總統的資深反恐顧問在一份聲明中說,白宮鼓勵並對於熱心於協助企業去「對恐怖份主義的威脅做出回應」。

資料來源:THE HUFFINGTON POST

回應

回應

Share This Article

這個具有活力的藍色顏料將能改善我們的生活

Next Story »

FARADAY FUTURE將參加E方程式賽車,並提供技術支援