算法和(hé)工(gōng)作(zuò)的未來
- 發布于 2022-11-19
算法是機器用于執行(xíng)數(shù)學運算的一(yī)系列精确的分步指令。使用支持算法的系統和(hé)設備将為(wèi)職業安全和(hé)健康帶來許多好處，但(dàn)與許多新技術(shù)一(yī)樣，工(gōng)人(rén)也存在風(fēng)險。《美國(guó)工(gōng)業醫(yī)學雜(zá)志》的一(yī)篇新評論重點關注工(gōng)人(rén)管理系統、先進傳感器技術(shù)和(hé)機器人(rén)設備使用中存在的工(gōng)人(rén)風(fēng)險的新來源。确定算法是否适合工(gōng)作(zuò)場所使用，對制造商、程序員(yuán)、雇主、工(gōng)人(rén)以及職業安全和(hé)健康從(cóng)業者來說正迅速成為(wèi)一(yī)項挑戰。為(wèi)了(le)實現支持算法的系統和(hé)設備在未來工(gōng)作(zuò)中承諾的好處，我們必須研究如(rú)何有效地(dì)管理它們的風(fēng)險。評論中的要(yào)點在下(xià)面突出顯示。文章(zhāng)中提供了(le)深入的讨論。
作(zuò)者：John Howard，醫(yī)學博士
機器學習算法正在為(wèi)多個行(xíng)業部門的各種職業安全和(hé)健康應用提供動力。算法應用存在于制造業、建築、農業、采掘采礦、零售業、和(hé)公共治理中。由支持算法的系統和(hé)設備驅動的數(shù)據驅動的洞察力可(kě)以概念化為(wèi)職業安全和(hé)健康的未來工(gōng)作(zuò)工(gōng)具，有朝一(yī)日可(kě)能(néng)會告訴你發生了(le)什麽（描述性系統）和(hé)為(wèi)什麽會發生（診斷系統）；預測會發生什麽（預測系統）；支持基于當前和(hé)未來條件的決策（規範性系統）；并采取物(wù)理行(xíng)動（半自(zì)主和(hé)自(zì)主系統）。
應該通(tōng)過充分意識到和(hé)理解算法的風(fēng)險狀況來緩和(hé)将算法集成到工(gōng)作(zuò)場所設備、流程、條件和(hé)人(rén)力管理系統中的預期好處。了(le)解支持算法的工(gōng)作(zuò)場所系統的風(fēng)險和(hé)益處應該基于全面的風(fēng)險評估。支持算法的系統構成的風(fēng)險通(tōng)常來自(zì)三個領域：
專有算法的日益複雜(zá)，特别是可(kě)以在運行(xíng)過程中改變其決策邏輯的自(zì)學算法，這(zhè)使得設計師(shī)、制造商和(hé)用戶難以在操作(zuò)上(shàng)了(le)解算法的工(gōng)作(zuò)原理。缺乏算法透明(míng)度可(kě)能(néng)是評估和(hé)控制新的職業安全和(hé)健康風(fēng)險的主要(yào)障礙。14随着各種社會系統、和(hé)工(gōng)人(rén)管理系統、先進傳感器技術(shù)和(hé)機器人(rén)設備中的算法決策正在增加，注意力集中在如(rú)何實現更大的算法透明(míng)度上(shàng)。
密切的身體監督一(yī)直是雇主監控工(gōng)人(rén)的傳統方式。雇主現在可(kě)以通(tōng)過視(shì)頻(pín)監控來監控工(gōng)人(rén)；通(tōng)過地(dì)理位置算法跟蹤工(gōng)人(rén)的身體運動；監控員(yuán)工(gōng)使用電子郵件、社交媒體和(hé)網頁浏覽的情況；評估工(gōng)人(rén)的生産力、參與程度、離開(kāi)組織的傾向以及對工(gōng)作(zuò)場所安全行(xíng)為(wèi)的遵守情況。這(zhè)些新的數(shù)據驅動的人(rén)力資源管理方法被稱為(wèi)“人(rén)員(yuán)分析”，并被吹捧為(wèi)幫助雇主做(zuò)出更好的決策。
算法管理技術(shù)可(kě)以持續收集和(hé)存儲工(gōng)人(rén)數(shù)據，可(kě)能(néng)沒有明(míng)确的目的或工(gōng)人(rén)披露。在一(yī)些算法管理技術(shù)中，工(gōng)人(rén)和(hé)決策者的觀察者都(dōu)可(kě)以是非人(rén)類代理人(rén)。當監控沒有前瞻性地(dì)向工(gōng)人(rén)披露時(shí)，支持算法的生産力和(hé)績效系統通(tōng)常代表一(yī)種未經工(gōng)人(rén)同意的管理控制。當算法被賦予工(gōng)人(rén)工(gōng)作(zuò)的權力時(shí)，當工(gōng)人(rén)對算法收集哪些數(shù)據、如(rú)何使用數(shù)據以及出于什麽目的沒有信息或了(le)解時(shí)，工(gōng)人(rén)會報告無能(néng)為(wèi)力的感覺。這(zhè)并不奇怪，因為(wèi)在算法管理下(xià)，工(gōng)人(rén)通(tōng)常與他(tā)們的“數(shù)字主管”沒有有意義的互動。這(zhè)種算法管理可(kě)能(néng)與工(gōng)人(rén)自(zì)主權的侵蝕、工(gōng)作(zuò)強化、心理社會壓力和(hé)工(gōng)人(rén)福祉的下(xià)降有關。
算法管理在零工(gōng)經濟中尤為(wèi)普遍，但(dàn)數(shù)字監控和(hé)管理技術(shù)在其他(tā)行(xíng)業部門也可(kě)見(jiàn)。輪班分配算法、交付路線算法、倉庫工(gōng)人(rén)移動算法、連續性能(néng)算法和(hé)其他(tā)工(gōng)作(zuò)生産力算法不僅應用于制造工(gōng)人(rén)，也适用于服務工(gōng)人(rén)、知識工(gōng)作(zuò)者、倉庫工(gōng)人(rén)，甚至一(yī)線主管。
新的算法技術(shù)有可(kě)能(néng)通(tōng)過影響雇主-員(yuán)工(gōng)的關系來顯著改變組織控制。算法管理系統的傳播将影響工(gōng)作(zuò)的未來，但(dàn)可(kě)能(néng)會以意想不到的和(hé)不良方式這(zhè)樣做(zuò)。雖然在算法管理下(xià)，工(gōng)人(rén)的私密性限制目前不确定，但(dàn)在支持算法的系統中存在大量關于工(gōng)人(rén)的信息會帶來潛在的安全風(fēng)險。此外(wài)，用于自(zì)動化組織管理系統的算法可(kě)能(néng)會産生歧視(shì)性結果，從(cóng)而重現和(hé)加強社會的曆史年(nián)齡、種族和(hé)民族以及性别偏見(jiàn)等。
傳感器是技術(shù)管理工(gōng)作(zuò)的核心，因為(wèi)它們為(wèi)算法控制提供數(shù)據輸入。先進的傳感器技術(shù)正在商業化，并作(zuò)為(wèi)新的暴露科學工(gōng)具進入工(gōng)作(zuò)場所。使用小型化算法嵌入式微(wēi)處理器的先進傳感器技術(shù)，通(tōng)過不斷感知危險物(wù)質的環境工(gōng)作(zuò)環境或工(gōng)人(rén)接近已知危害，有可(kě)能(néng)大大加快(kuài)職業暴露科學的進步。然而，它們也可(kě)能(néng)引起工(gōng)人(rén)對侵入性工(gōng)人(rén)監控、算法偏見(jiàn)和(hé)侵犯個人(rén)隐私的擔憂。
算法是所有機器人(rén)設備的關鍵組件。從(cóng)人(rén)工(gōng)智能(néng)架構的角度來看(kàn)，機器人(rén)設備可(kě)以是物(wù)理上(shàng)的機器人(rén)或數(shù)字決策助理。機器人(rén)表現出三種主要(yào)功能(néng)：感知、計劃和(hé)行(xíng)動。算法涉及所有這(zhè)些基本的機器人(rén)功能(néng)。與算法管理系統一(yī)樣，當算法控制下(xià)的機器人(rén)系統導緻人(rén)類工(gōng)人(rén)的身體或認知能(néng)力與工(gōng)作(zuò)需求不匹配時(shí)，可(kě)能(néng)會發生工(gōng)作(zuò)強化。當機器人(rén)系統被設計為(wèi)最大限度地(dì)提高生産力而不充分考慮對人(rén)類工(gōng)人(rén)績效的影響時(shí)，它們的風(fēng)險狀況就會增加。雖然将機器人(rén)集成到工(gōng)作(zuò)流程中承諾帶來許多生産力效益，但(dàn)工(gōng)人(rén)可(kě)能(néng)會因使用機器人(rén)而面臨工(gōng)作(zuò)密集和(hé)工(gōng)作(zuò)崗位轉移的風(fēng)險。
引入支持算法的工(gōng)作(zuò)場所使用人(rén)工(gōng)智能(néng)系統和(hé)設備的速度比開(kāi)發特定于算法的風(fēng)險評估和(hé)風(fēng)險管理策略的速度更快(kuài)。當集成到工(gōng)作(zuò)場所系統時(shí)，算法可(kě)以呈現出獨特的風(fēng)險分類，這(zhè)些風(fēng)險在組織的傳統職業安全和(hé)健康風(fēng)險管理方法中可(kě)能(néng)無法解決。需要(yào)新的方法來檢測輸入數(shù)據中的偏差，在專有算法中找到設計錯誤，并确保輸出決策在邏輯上(shàng)是輸入數(shù)據的衍生物(wù)。侵入性監控、算法偏見(jiàn)、自(zì)主權和(hé)隐私喪失、決策産出不準确以及工(gōng)作(zuò)強化所産生的風(fēng)險應添加到現有風(fēng)險評估和(hé)管理方法中。工(gōng)人(rén)還應該有自(zì)由度和(hé)方法來挑戰算法生成的決策。
在未來的工(gōng)作(zuò)中，算法将在職業安全和(hé)健康方面提供許多有益的應用。雖然支持算法的系統和(hé)設備可(kě)能(néng)會減少(shǎo)人(rén)為(wèi)錯誤的來源，并增強工(gōng)人(rén)的安全和(hé)健康，但(dàn)算法也可(kě)能(néng)為(wèi)工(gōng)人(rén)福祉帶來新的風(fēng)險來源。确定算法在工(gōng)人(rén)管理系統、先進傳感器技術(shù)、機器人(rén)設備和(hé)其他(tā)工(gōng)作(zuò)場所系統、工(gōng)具和(hé)機械中是安全的，将挑戰算法設計師(shī)和(hé)軟件程序員(yuán)、支持算法的設備制造商、雇主、工(gōng)人(rén)以及職業安全和(hé)健康從(cóng)業者的風(fēng)險評估和(hé)管理能(néng)力。為(wèi)了(le)确保支持算法的系統和(hé)設備的好處在未來的工(gōng)作(zuò)中占據突出地(dì)位，現在是時(shí)候研究如(rú)何有效地(dì)管理其風(fēng)險了(le)。
