論文鏈接：Neutral bots probe political bias on social media | EndNote Click

????????試圖遏制濫用行為和錯(cuò)誤信息的社交媒體平臺(tái)被指責(zé)存在政治偏見。我們部署中立的社交機(jī)器人，它們開始關(guān)注 Twitter 上的不同新聞源，并跟蹤它們以探究平臺(tái)機(jī)制與用戶交互中出現(xiàn)的明顯偏見。我們?cè)谛侣勍扑椭袥]有發(fā)現(xiàn)強(qiáng)有力或一致的政治偏見證據(jù)。盡管如此，美國 Twitter 用戶所接觸到的新聞和信息在很大程度上取決于他們?cè)缙陉P(guān)系的政治傾向。保守派賬戶的互動(dòng)偏右，而自由派賬戶則接觸溫和的內(nèi)容，將他們的經(jīng)驗(yàn)轉(zhuǎn)向政治中間派。黨派賬戶，尤其是保守賬戶，往往會(huì)獲得更多關(guān)注者并關(guān)注更多自動(dòng)化賬戶。保守賬戶還發(fā)現(xiàn)自己處于更密集的社區(qū)中，并且接觸到更多低可信度的內(nèi)容。

背景

????????與傳統(tǒng)媒體相比，在線社交媒體可以比以往更便宜、更快捷的方式連接更多的人。由于很大一部分人經(jīng)常使用社交媒體來生成內(nèi)容、消費(fèi)信息以及與他人互動(dòng)1，在線平臺(tái)也在塑造用戶的規(guī)范和行為。

????????實(shí)驗(yàn)表明，簡(jiǎn)單地改變社交提要上出現(xiàn)的消息就可以影響用戶的在線表達(dá)和現(xiàn)實(shí)世界行為2,3，并且社交媒體用戶對(duì)早期社會(huì)影響很敏感4,5。

研究點(diǎn)引入：兩級(jí)分化，用戶傾向于同質(zhì)話題；推薦算法傾向于推薦虛假信息，不利于檢測(cè)

????????與此同時(shí)，社交媒體上的討論往往圍繞選舉 6-8、疫苗接種 9 和氣候變化 10 等關(guān)鍵但有爭(zhēng)議的話題。兩極分化往往伴隨著觀點(diǎn)不一致的用戶被隔離到所謂的回聲室11-16，即與意識(shí)形態(tài)激進(jìn)化和錯(cuò)誤信息傳播相關(guān)的同質(zhì)在線社區(qū)。對(duì)抗這種不良現(xiàn)象需要深入了解其根本原因機(jī)制。

????????一方面，網(wǎng)絡(luò)脆弱性與人類的幾種社會(huì)認(rèn)知偏見有關(guān)，包括選擇與信念一致的信息以及在社會(huì)關(guān)系中尋求同質(zhì)性的傾向。

????????另一方面，網(wǎng)絡(luò)平臺(tái)有自己的算法偏差。例如，排名算法偏向流行且引人入勝的內(nèi)容，這可能會(huì)造成惡性循環(huán)，放大噪音而不是質(zhì)量。接觸參與度指標(biāo)也可能會(huì)增加受到錯(cuò)誤信息影響的可能性。舉個(gè)更極端的例子，最近的研究和媒體報(bào)道表明，無論起點(diǎn)如何，YouTube 推薦系統(tǒng)都可能會(huì)導(dǎo)致視頻出現(xiàn)更多錯(cuò)誤信息或極端觀點(diǎn)。

????????除了個(gè)人用戶的社會(huì)認(rèn)知偏見和技術(shù)平臺(tái)的算法偏見之外，我們對(duì)社交媒體介導(dǎo)的集體互動(dòng)如何影響我們通過在線信息生態(tài)系統(tǒng)獲得的世界觀的理解非常有限。主要障礙是系統(tǒng)的復(fù)雜性——用戶不僅通過許多隱藏機(jī)制與大量其他人交換大量信息，而且這些交互可以被合法的影響者以及不真實(shí)的敵對(duì)者公開或秘密地操縱，他們有動(dòng)機(jī)影響觀點(diǎn)或激進(jìn)行為32。有證據(jù)表明，社交機(jī)器人和網(wǎng)絡(luò)噴子等惡意實(shí)體已經(jīng)被用來傳播錯(cuò)誤信息并影響對(duì)關(guān)鍵問題的公眾輿論33-37。

目標(biāo)是揭示人們?cè)谛侣労托畔⒅薪佑|到的偏見

????????在這項(xiàng)研究中，我們的目標(biāo)是揭示人們?cè)谛侣労托畔⒅薪佑|到的偏見。社交媒體生態(tài)系統(tǒng)。我們特別有興趣澄清社交媒體互動(dòng)在極化過程和回聲室形成過程中的作用。因此，我們關(guān)注 Twitter 上的美國政治話語，因?yàn)樵撈脚_(tái)在美國政治中發(fā)揮著重要作用，并且存在強(qiáng)烈的兩極分化和回音室現(xiàn)象。 Twitter 形成了一個(gè)有向社交網(wǎng)絡(luò)，其中從朋友節(jié)點(diǎn)到關(guān)注者節(jié)點(diǎn)的邊表示該朋友發(fā)布的內(nèi)容出現(xiàn)在關(guān)注者的新聞提要上。

????????我們的目標(biāo)是研究生態(tài)系統(tǒng)偏見，其中包括潛在的平臺(tái)偏見以及與社交網(wǎng)絡(luò)（有機(jī)或非有機(jī)）用戶互動(dòng)的凈效應(yīng)，這些效應(yīng)由平臺(tái)機(jī)制介導(dǎo)并受其政策監(jiān)管。雖然我們只嘗試在提要管理的狹隘情況下將平臺(tái)效應(yīng)與自然發(fā)生的偏差分開，但我們的調(diào)查針對(duì)的是平臺(tái)用戶所經(jīng)歷的整體偏差。這需要排除個(gè)人用戶的偏見，這是使用傳統(tǒng)觀察方法時(shí)的一個(gè)挑戰(zhàn)——不可能將生態(tài)系統(tǒng)影響與可能影響被跟蹤人類賬戶行為的混雜因素分開，例如年齡、性別、種族、意識(shí)形態(tài)和社會(huì)經(jīng)濟(jì)的。

完全由算法控制的社交媒體帳戶（稱為社交機(jī)器人）

????????因此，我們轉(zhuǎn)向一種方法，通過利用模仿人類用戶但完全由算法控制的社交媒體帳戶（稱為社交機(jī)器人）來消除控制此類混雜因素的需要。在這里，我們部署具有中立（無偏見）和隨機(jī)行為的社交機(jī)器人作為探測(cè)社交媒體中曝光偏差的工具。我們將我們的機(jī)器人稱為“漂流者”，以將它們的中立行為與 Twitter上其他類型的良性和惡意社交機(jī)器人區(qū)分開來。所有漂流者都有相同的行為模型，唯一的區(qū)別是最初的朋友不同。

??????? 在我們的實(shí)驗(yàn)中，在代表單個(gè)自變量（治療）的初始行動(dòng)之后，每個(gè)漂流者都被釋放到野外?？梢钥隙ǖ氖?#xff0c;雖然所有的漂流者都有相同的行為，但是他們的行為是不同的，取決于他們的初始條件。我們預(yù)計(jì)，最初關(guān)注自由主義賬戶的漂泊者將更有可能接觸自由主義內(nèi)容，分享其中一些內(nèi)容，被自由主義賬戶關(guān)注，等等。但這些行為是由平臺(tái)機(jī)制和社會(huì)互動(dòng)驅(qū)動(dòng)的，而不是由自變量中的政治偏見驅(qū)動(dòng)的：行為模型無法區(qū)分自由派、保守派或任何類型的內(nèi)容。因此，漂流者的行為是我們實(shí)驗(yàn)測(cè)量的因變量（結(jié)果）的一部分。

研究問題

????????這種方法使我們能夠檢查源自 Twitter 系統(tǒng)設(shè)計(jì)和算法以及漂流者和其他帳戶之間有機(jī)和無機(jī)社交互動(dòng)的綜合偏差。我們的研究問題是：（i）社交媒體平臺(tái)上的早期行為對(duì)不真實(shí)賬戶、政治回聲室和錯(cuò)誤信息的影響和曝光有何影響？

????????(ii) 這種差異是否可以歸因于平臺(tái)新聞源中的政治偏見？為了回答這些問題，我們初始化了來自不同政治領(lǐng)域新聞來源的漂移者。

????????五個(gè)月后，我們檢查了漂流者消費(fèi)和生成的內(nèi)容，并分析了（i）他們的朋友和追隨者的特征，包括通過共享鏈接和主題標(biāo)簽推斷出他們的自由保守派政治立場(chǎng)；

???????? (ii) 通過機(jī)器學(xué)習(xí)方法測(cè)量的自動(dòng)化活動(dòng)；

???????? (iii) 接觸來自新聞和事實(shí)核查組織確定的低可信度來源的信息。

??????? 我們發(fā)現(xiàn)最初朋友的政治立場(chǎng)對(duì)受歡迎程度、社交網(wǎng)絡(luò)結(jié)構(gòu)、接觸機(jī)器人和低可信度來源以及每個(gè)漂泊者的行為所體現(xiàn)的政治立場(chǎng)有重大影響。然而，我們沒有發(fā)現(xiàn)任何證據(jù)表明這些結(jié)果可以歸因于平臺(tái)偏見。我們對(duì) Twitter 信息生態(tài)系統(tǒng)政治趨勢(shì)的研究提供的見解可以幫助公眾辯論社交媒體平臺(tái)如何影響人們對(duì)政治信息的接觸。

結(jié)果

????????我們實(shí)驗(yàn)中的所有漂流者都遵循相同的行為模型，其設(shè)計(jì)是中立的，不一定是現(xiàn)實(shí)的。每個(gè)漂流者在隨機(jī)時(shí)間被激活以執(zhí)行操作。操作類型，例如推文、點(diǎn)贊和回復(fù)是根據(jù)以下條件隨機(jī)選擇的：預(yù)定義的概率。對(duì)于每個(gè)操作，模型指定如何選擇隨機(jī)目標(biāo)，例如要轉(zhuǎn)發(fā)的推文或要取消關(guān)注的好友。動(dòng)作之間的時(shí)間間隔是從廣泛的分布中得出的，以產(chǎn)生逼真的突發(fā)行為。

漂流機(jī)器人的實(shí)施

????????詳細(xì)信息請(qǐng)參見“方法”。我們開發(fā)了 15 個(gè)漂流機(jī)器人，將它們分為五組，并使用相同的初始朋友初始化同一組中的每個(gè)漂流機(jī)器人。每個(gè) Twitter 帳戶都使用與美國政治光譜的左派、中左派、中間派、中右派或右派一致的流行新聞來源作為第一個(gè)朋友（詳細(xì)信息請(qǐng)參閱“方法”）。我們用他們最初朋友的政治立場(chǎng)來稱呼漂流者。例如，使用中左來源初始化的機(jī)器人被稱為“C.左”漂流者。

????????從2019年7月10日部署到2019年12月1日停用，我們每天監(jiān)控漂流者的行為并收集數(shù)據(jù)。具體來說，我們測(cè)量了：（1）每個(gè)漂流者的追隨者數(shù)量，以比較他們獲得影響力的能力； (2) 每個(gè)漂流者的回波室暴露情況； (3) 漂流者的朋友和追隨者可能進(jìn)行的自動(dòng)化活動(dòng)； （4）漂流者接觸到的低可信度信息比例； (5) 對(duì)漂流者及其朋友生成的內(nèi)容進(jìn)行政治調(diào)整，以探究政治偏見。

????????影響力。追隨者的數(shù)量可以用作影響力的粗略指標(biāo)。為了衡量政治聯(lián)盟如何影響影響力動(dòng)態(tài)，圖 1 繪制了不同群體中漂流者隨時(shí)間變化的平均追隨者數(shù)量。

?（圖1追隨者的增長。X 軸顯示的是2019年實(shí)驗(yàn)的持續(xù)時(shí)間，而 x 軸顯示的是不同流浪者群體的平均追隨者數(shù)量。有色置信區(qū)間表示 ± 1標(biāo)準(zhǔn)誤差。源數(shù)據(jù)以源數(shù)據(jù)文件的形式提供。自然通訊 |? https://doi.org/10.1038/s41467-021-25738-6articlenature 通訊 | (2021)12:5580 |? https://doi.org/10.1038/s41467-021-25738-6 |? www.nature.com/naturecommunications3）

????????為了比較不同組的增長率，我們考慮了對(duì)每個(gè)漂流者的追隨者計(jì)數(shù)的連續(xù)觀察，并將它們?cè)诿總€(gè)組中匯總（n = 387 為左，373 為 C. 左，389 為中，387 為 C. 右，386 為右）。 測(cè)試中出現(xiàn)了兩種趨勢(shì)（本次分析和以下分析中的所有測(cè)試都是雙面的）。

????????首先，與大多數(shù)黨派來源作為初始朋友的漂流者往往比中間漂流者吸引更多的追隨者（左派與中派的d.f.=774，t=5.13，p<0.001，右派d.f.=773，t=8.00，p<0.001）與中心）。其次，初始來源右傾的漂流者獲得追隨者的比例明顯高于初始來源左傾的漂流者（d.f=771，t=3.84，右翼與左翼的 p< 0.001）。

????????漂流者之間影響力的差異不僅受到政治結(jié)盟的影響，還受到他們最初朋友的其他特征的影響。為了理清這些因素，我們測(cè)量了漂泊者追隨者的數(shù)量與他們最初朋友的兩個(gè)特征之間的相關(guān)性：他們的整體影響力和他們?cè)谄渌温?lián)盟賬戶中的受歡迎程度。雖然漂流者的影響力不受最初朋友的整體影響力的影響，但它與他們?cè)谡紊弦恢碌馁~戶中的受歡迎程度呈正相關(guān)（見補(bǔ)充說明）。這與具有共同黨派傾向的用戶更有可能形成社會(huì)關(guān)系的證據(jù)一致42，正如我們接下來探討的那樣。

????????回聲室。

????????我們將回聲室定義為密集且高度聚集的社交媒體社區(qū)，可以放大同質(zhì)內(nèi)容的曝光度。為了研究漂流者機(jī)器人是否發(fā)現(xiàn)自己處于這樣的回聲室中，讓我們考慮每個(gè)漂流者的自我網(wǎng)絡(luò)，即由漂流者及其朋友和追隨者組成的網(wǎng)絡(luò)。我們可以使用自我網(wǎng)絡(luò)的密度和傳遞性作為回聲室存在的代理。密度是網(wǎng)絡(luò)中連接的節(jié)點(diǎn)對(duì)的分?jǐn)?shù)。傳遞性衡量節(jié)點(diǎn)中實(shí)際存在的可能三角形的比例。高傳遞性意味著朋友和關(guān)注者也可能互相關(guān)注。詳細(xì)內(nèi)容請(qǐng)參見“方法”。

????????圖2a、b顯示了漂流者自我網(wǎng)絡(luò)的平均密度和傳遞性（詳見“方法”）。由于這兩個(gè)度量在自我網(wǎng)絡(luò)中是相關(guān)的，圖 2c 還繪制了通過打亂的隨機(jī)網(wǎng)絡(luò)重新調(diào)整的傳遞性（參見“方法”）。

?（圖2 漂流器周圍的回波室結(jié)構(gòu)。不同群體漂泊者自我網(wǎng)絡(luò)的a密度、b及物性及標(biāo)準(zhǔn)化及物性。誤差條表示標(biāo)準(zhǔn)誤差（每組 n=3 名漂流者）。d 五個(gè)組中漂流者的自我網(wǎng)絡(luò)。節(jié)點(diǎn)代表帳戶，邊代表朋友/關(guān)注者關(guān)系。節(jié)點(diǎn)大小和顏色分別表示共享鏈接的程度（鄰居數(shù)量）和政治傾向。由于不共享政治內(nèi)容，黑色節(jié)點(diǎn)缺少對(duì)齊分?jǐn)?shù)。源數(shù)據(jù)作為源數(shù)據(jù)文件提供。 3 漂流者的朋友和追隨者的機(jī)器人分?jǐn)?shù)分布。機(jī)器人分?jǐn)?shù)是 0 到 1 之間的數(shù)字，分?jǐn)?shù)越高表示可能是自動(dòng)化的。對(duì)于每個(gè)組，我們考慮該組中漂流者的朋友和追隨者的聯(lián)合。條形表示平均值。對(duì)于朋友，n=282（左）、261（左）、206（中）、323（右）和 414（右）。對(duì)于追隨者，n=172（左）、118（左）、65（中）、205（右）和 299（右）。源數(shù)據(jù)作為源數(shù)據(jù)文件提供。 https://doi.org/10.1038/s41467-021-25738-64自然通訊| (2021) 12:5580 | https://doi.org/10.1038/s41467-021-25738-6 | www.nature.com/naturecommunications）

????????右漂者的自我網(wǎng)絡(luò)比中漂者的自我網(wǎng)絡(luò)更密集(d.f.=4,t=?8.28,p=0.001)，而中漂者和左漂者之間的密度差異并不顯著(d.f.=4,t=?2.68,p =0.055）。右?guī)艟W(wǎng)絡(luò)也比中心網(wǎng)絡(luò)具有更高的傳遞性（d.f.=4，t=?9.31，p<0.001）；左帳戶網(wǎng)絡(luò)也具有更高的傳遞性（d.f.=4，t=?3.53，p=0.024）。即使考慮到密度差異 (d.f.=4,t=?8.96,p< 0.001)，右翼賬戶也比中間派賬戶更加聚集，而左翼賬戶與中間賬戶的差異并不顯著 (d.f.=4,t=?2.73,p =0.053）。此外，右漂移器的回聲室比左漂移器更強(qiáng)（對(duì)于密度，d.f.=4，t=?3.84，p=0.019；對(duì)于傳遞性，d.f.=4，t=?3.02，p=0.039）。然而，左、右之間歸一化及物性的差異并不顯著（d.f.=4，t=?0.60，p=0.579），這表明右側(cè)較高的聚集性是由社會(huì)聯(lián)系的密度來解釋的。

????????自動(dòng)化活動(dòng)。

????????被稱為社交機(jī)器人的自動(dòng)化賬戶積極參與有關(guān)最近美國選舉的在線討論33,43,44。因此，漂流者預(yù)計(jì)會(huì)遇到機(jī)器人帳戶。我們使用 Botometer 服務(wù)45,46 收集漂流者的朋友和關(guān)注者的機(jī)器人分?jǐn)?shù)。我們?cè)趫D 3 中報(bào)告了漂流者的朋友和追隨者的機(jī)器人分?jǐn)?shù)分布。毫不奇怪，跨政治領(lǐng)域的漂流者更有可能在他們的追隨者中擁有機(jī)器人，而不是在他們的朋友中。關(guān)注朋友揭示了社交媒體用戶更嚴(yán)重的潛在脆弱性。我們發(fā)現(xiàn)，黨派漂流者關(guān)注的賬戶比中間派漂流者關(guān)注的賬戶更像機(jī)器人（d.f.=618，t=?6.14，p<0.001（右翼 vs. 中間）和 d.f.=486，t=?3.67，p<0.001（左翼 vs. 中間）中心）。比較黨派和溫和派，右翼漂流者所遵循的賬戶比C.右翼漂流者更像機(jī)器人（d.f.=735，t=?3.01，p=0.003），而自由派的差異較小（d.f.=541，t=? 2.56，p=0.011（左與 C. 左）。在黨派中，右翼分子關(guān)注的賬戶比左翼賬戶更像機(jī)器人（d.f.=694，t=?2.33，p=0.020）。