500大乐透走势图

當數學成為“武器”,被服侍還是被窺探?

科技日報 2019年03月29日 09:46

  你打開手機,突然一堆廣告推送給你,好像冥冥之中有雙眼睛在注視你的生活,知道你需要貸款、想換房子,也知道你正準備去旅游或讀學位,甚至連你青睞哪一款洗發水也洞若觀火。這時,你是感到了被服侍的舒坦,還是冒出了被窺探的冷汗?其實,這些都是“算法化生活”的場景片段。

  《算法霸權》(中信出版集團,2018年)這本書對算法籠罩下的社會和生活做了深入而通俗的分析。書的作者凱西·奧尼爾是美國數據科學家、哈佛大學數學博士,曾在對沖基金等公司擔任數據科學家,還參與過“占領華爾街”運動。這本書首先讓我們重新認識了數學。在很多人心中,說起數學,腦中出現的可能還是陳景潤和幾麻袋草稿紙,高深莫測。從這本書里,我們知道數學其實已成了現代社會運轉最基礎的支撐技術之一。數學模型給我們的生活帶來了便利,幫助人們規避人類決策時的偏見。然而,水可載舟亦可覆舟,任何模型都是在無法擺脫偏見的數據基礎上構建的,于是貌似公正的模型又帶來新的偏見。比如,由于醫生中男性居多,而護士中女性居多這一事實,當你搜索一名醫生的圖像時,人工智能會首先呈現男性圖像,在搜索護士時則反之。一旦這些偏見被用來建構模型,就會固化甚至制造社會中本就存在的不公正因素。再加上有些企業和機構在牟利目的支配下濫用這些模型,或有意給偏見穿上“科學”的外衣,就更會讓大數據技術變成了一種“數學殺傷性武器”。

  作為一本以鞭辟入里的案例分析見長的著作,《算法霸權》這本書舉了很多例子。由于作者以美國社會為分析對象,個別例子離我們似乎有些遠,但大部分例子還是讓人心有戚戚焉。“掠奪式廣告”就是其中之一,作者將之界定為“精準找出有迫切需求的群體,并向他們兜售虛假承諾的廣告”。互聯網基于我們的網上行為所透露出的內在偏好和選擇模式,把我們放在數百模型中進行排名、分類以及評分。這為合法的廣告營銷奠定了基礎,同時也助長了掠奪式廣告的興起。掠奪式廣告精準打擊著人們生活中的焦慮點。比如,你來到一所陌生的城市謀生,在網上搜索招聘信息,你的這些行為就被記錄下來,沒過幾天,你就可能收到某家教育機構的電話,信誓旦旦地許諾“三個月拿到會計證書”,然后就能獲得可觀的薪水。這是一種對焦慮的消費,也是一場精準的掠奪圖謀。“大學排名”是另一個例子。書中對《美國新聞》從1988年開始做的排名進行了分析,指出排名模型建構時遺漏了一些重要的變量:學雜費、學生助學金。這就意味著把教育成本排除在了算法之外,于是,當這一排名具有了教育標準的意義,追求排名的大學校長就會想盡一切辦法提高排名。但他們不會把降低成本作為考慮的對象,結果就是學費一路飆升,貧困甚至中產階級的孩子被攔在了大學校門之外。

  這本書是具有強烈批判性的,但書中的分析又很辯證。依靠算法作出的決策,看起來更加“科學”,那么數學模型是不是比人類的決策更加值得信任呢?作者沒有完全否定數學模型的價值,但提醒道,人類決策雖然經常有缺陷,卻在可改善性方面有其優勢。說到底,人類的學習能力在根本上強于自動化系統。大數據程序只能把過去編入代碼,無法創造未來。因為創造未來需要道德想象力,而這只有人類才有。因此,改善算法的關鍵在于把更好的價值觀嵌入代碼之中,創造出符合道德準則的大數據模型。

  對于現實,作者充滿批判,對于未來,他依然信心滿滿,“數據不會消逝,計算機也不會,數學更不會。預測模型日益成為我們的必備工具,我們利用這些工具經營各種機構,配置資源,管理我們的生活”,但是,數據模型必須接受審查,還應向公眾披露模型使用的輸入數據和輸出結果,使之公開透明。作者還提出,信息保護方面的歐洲模式是值得借鑒的。也就是規定收集任何數據必須經過用戶的批準,用戶具有選擇權,并且禁止把數據重新用于其他目的。“不可重復使用”這一條款的約束力非常強大,它有效地避免了數據落入數據中間商之手。

  其實在我們的生活中,書中所提到的問題同樣存在,只是在不同的國家表現形式有所不同。不管怎么樣,算法這個強大的殺傷性武器已經潛入我們的生活,對此,多些警惕沒壞處。(胡一峰)

500大乐透走势图