麻省理工學(xué)院:Matthew Kearney：將人工智能和哲學(xué)帶入對(duì)話
計(jì)算機(jī)科學(xué)和哲學(xué)雙學(xué)位旨在推進(jìn)人工智能倫理領(lǐng)域。
Matthew Kearney 被麻省理工學(xué)院的越野團(tuán)隊(duì)文化所吸引。他在得克薩斯州奧斯汀長(zhǎng)大，喜歡在戶外度過(guò)時(shí)光和踢足球，但到了高中，跑步已成為他的主要運(yùn)動(dòng)。在看大學(xué)時(shí)，他想找到一個(gè)既有強(qiáng)大的學(xué)術(shù)能力又有強(qiáng)大的團(tuán)隊(duì)社區(qū)的地方。在與越野隊(duì)進(jìn)行正式訪問(wèn)后，他知道麻省理工學(xué)院是適合他的地方。
“這確實(shí)是我在麻省理工學(xué)院經(jīng)歷中決定性的一部分，”科爾尼說(shuō)。“我喜歡每個(gè)人以的方式表現(xiàn)出的古怪、有趣和怪異，以及那種做事方式有點(diǎn)不同的氛圍。除了明顯的學(xué)術(shù)和研究原因外，這就是賣給我的原因。”
科爾尼現(xiàn)在是一名大四學(xué)生和隊(duì)長(zhǎng)，他充分利用了他的運(yùn)動(dòng)和學(xué)術(shù)經(jīng)驗(yàn)。他來(lái)到麻省理工學(xué)院原本希望主修電氣工程和計(jì)算機(jī)科學(xué)，但在修讀 24.02（道德問(wèn)題與美好生活）后愛上了哲學(xué)。他主修這兩個(gè)專業(yè)，同時(shí)還完成了計(jì)算機(jī)科學(xué)與工程碩士學(xué)位。
“哲學(xué)中讓我感興趣的部分是思考我們希望如何過(guò)我們的生活，什么對(duì)我們重要，什么對(duì)我們有價(jià)值，以及我們?nèi)绾我宰鹬貙?duì)他人重要的價(jià)值觀的方式來(lái)做， ”科爾尼說(shuō)。“我真的很喜歡更抽象但更有目的性的思考，以補(bǔ)充我計(jì)算機(jī)科學(xué)專業(yè)的技術(shù)嚴(yán)謹(jǐn)性?！?/span>
科爾尼的興趣在人工智能倫理領(lǐng)域有交集，他希望利用他的跨學(xué)科教育來(lái)深思熟慮地檢查和設(shè)計(jì)人工智能系統(tǒng)。畢業(yè)后，他將作為羅德學(xué)者在牛津大學(xué)攻讀計(jì)算機(jī)科學(xué)博士學(xué)位。
“從道德哲學(xué)的抽象原則一直到實(shí)際構(gòu)建人工智能工具來(lái)解決問(wèn)題的對(duì)話并不多，”科爾尼說(shuō)。“在我的 DPhil 中，我想問(wèn)的是，我們?nèi)绾尾拍軓膶⒛承┑赖略瓌t構(gòu)建到 AI 中的目標(biāo)開始，以及我們?nèi)绾尾拍軐⑵浣档统橄髮?，直到我們了解我們可以?gòu)建哪些技術(shù)工具來(lái)幫助實(shí)現(xiàn)這些目標(biāo)。 ”
在課堂之外，科爾尼也表現(xiàn)。越野隊(duì)在秋季獲得了全國(guó)——這不僅是項(xiàng)目歷史上的個(gè)，也是麻省理工學(xué)院運(yùn)動(dòng)隊(duì)的個(gè) NCAA 團(tuán)體——科爾尼也獲得了全美個(gè)人榮譽(yù)。
以人為本的人工智能設(shè)計(jì)
科爾尼目前正在進(jìn)行兩項(xiàng)研究工作。個(gè)是人類系統(tǒng)實(shí)驗(yàn)室的一個(gè)項(xiàng)目，他正在設(shè)計(jì)降尺度方法以應(yīng)用于氣候數(shù)據(jù)。大多數(shù)模型都在全球范圍內(nèi)，但能夠預(yù)測(cè)局部地區(qū)將如何受到影響可能有助于指導(dǎo)有效的政策并為生活在該地區(qū)的人們提供洞察力。
在他的碩士論文中，科爾尼正在幫助加深對(duì)大型語(yǔ)言模型的理解，這些模型用于構(gòu)建 ChatGPT 等工具。除了獲得技術(shù)知識(shí)外，科爾尼還一直在思考這些工具的倫理后果。
“在幕后，人們并不完全確定為什么這些模型會(huì)做出某些決定，”科爾尼說(shuō)。“他們從數(shù)學(xué)上理解它是如何工作的，但他們不知道為什么模型會(huì)做出個(gè)人決定。我的研究重點(diǎn)一直是試圖了解概念在網(wǎng)絡(luò)中的位置，以及它們是如何在整個(gè)網(wǎng)絡(luò)中被識(shí)別和轉(zhuǎn)換的。然后我們就可以開始了解有關(guān)該模型的公平性和道德問(wèn)題?！?/span>
在高層次上，科爾尼有興趣將這些模型分開，以便從各個(gè)角度理解它們。他認(rèn)識(shí)到人工智能必須影響許多不同領(lǐng)域的巨大潛力，但他也認(rèn)識(shí)到需要深思熟慮地運(yùn)用技術(shù)。這一見解是由 6.882 課程（人類部署中的道德機(jī)器學(xué)習(xí)）引發(fā)的，這是由助理教授 Marzyeh Ghassemi 于 2022 年春季開設(shè)的一門專題課程。
“我的技術(shù)教育告訴我，如果我們投入足夠的工程和技術(shù)，任何問(wèn)題都可以解決，”科爾尼說(shuō)，并補(bǔ)充說(shuō)他相信他和許多其他人在他們的技術(shù)研究中存在盲點(diǎn)。“這門課真的幫助我走出了頂空，看到這些問(wèn)題只能通過(guò)以社會(huì)為中心的、經(jīng)濟(jì)的或政治的方法來(lái)解決。我們需要考慮如何使用其他學(xué)科的工具來(lái)思考我們?nèi)绾问褂眠@些技術(shù)?！?/span>
科爾尼 (Kearney) 認(rèn)為他的工作有機(jī)會(huì)在從醫(yī)療保健到銀行貸款等一系列領(lǐng)域產(chǎn)生影響。
“在我們知道模型中已經(jīng)系統(tǒng)地存在偏差的應(yīng)用領(lǐng)域，他們有可能將其帶入所做的模型決策中，”Kearney 說(shuō)。“盡管如此，這些模型將繼續(xù)被使用和制造，重要的是它們的制造方式，一是我們可以了解它們的實(shí)際工作方式，二是我們可以保證更公平的結(jié)果。”
科爾尼發(fā)現(xiàn)計(jì)算機(jī)科學(xué)和哲學(xué)在不斷地相互對(duì)話，并受到 AI 倫理領(lǐng)域先驅(qū)的啟發(fā)，繼續(xù)構(gòu)建對(duì)世界產(chǎn)生積極影響的深思熟慮的系統(tǒng)。
在結(jié)束他在麻省理工學(xué)院的時(shí)光時(shí)，科爾尼也期待著在越野隊(duì)取得成功后結(jié)束他的田徑賽季。
“今年秋天是團(tuán)隊(duì)有史以來(lái)親密、緊密的一次，”科爾尼說(shuō)。“今年我們?cè)诮叹毞矫鎿碛腥绱肆钊穗y以置信的天賦，而且已經(jīng)有比以往任何時(shí)候都多的預(yù)選賽。我很高興看到它會(huì)發(fā)生什么，并大放異彩。”
