從簡單提示中回憶詳細(xì)事件的能力,被稱為“模式完成”(Pattern Completion),它是由海馬體執(zhí)行的一種認(rèn)知操作,其中現(xiàn)有記憶表征是從不完整的輸入信息中檢索出來的。在行為研究中,模式完成通常是通過錯誤地認(rèn)可誘餌(即類似刺激)為舊線索來推斷的。然而,缺乏證據(jù)表明這種反應(yīng)是由對類似的、先前編碼項目的特定檢索所造成的。
因此,作者在部分線索再認(rèn)任務(wù)中,使用眼動(EM)監(jiān)測,通過對記憶編碼相關(guān)的眼動指標(biāo)或凝視恢復(fù)的再現(xiàn),對誘餌圖像的恢復(fù)進(jìn)行行為上的索引。
結(jié)果發(fā)現(xiàn),被試在退化的檢索線索后可以恢復(fù)與記憶編碼相關(guān)的眼動,該恢復(fù)與誘餌圖像的正確率呈負(fù)相關(guān),這表明對現(xiàn)有表征(即模式完成)的檢索是誘餌假警報的基礎(chǔ)。該發(fā)現(xiàn)提供了將凝視恢復(fù)和模式完成聯(lián)系起來的證據(jù),并提出了眼動在記憶提取中的功能性作用。
我們經(jīng)常需要從部分輸入信息中識別熟悉的事物,比如朋友的模糊面孔。我們的大腦通過模式完成的方法從記憶中“完成”這些視覺上稀疏的線索。這種操作雖然對成功的記憶至關(guān)重要,但也被認(rèn)為是記憶錯誤的基礎(chǔ),類似的新事物被錯誤地認(rèn)為是“舊的”。通過眼動監(jiān)測,本文發(fā)現(xiàn)當(dāng)呈現(xiàn)一個新的退化線索(即模糊的線索)時,被試會看他們在先前對類似項目編碼時看過的區(qū)域,而且這些凝視移動與假警報的增加有關(guān)。這些發(fā)現(xiàn)證明,對編碼記憶表征(即模式完成)的檢索是對類似項目假警報的基礎(chǔ)。本文發(fā)表在PNAS雜志。
注釋:在文章中使用到了“探針”測試、“誘餌”測試以及“假警報”的說法,在這里首先解釋下這些術(shù)語使用的用意?!疤结槨睖y試是在被試完成完整圖像的觀看后,看到的該完整圖像按照不同隱藏比例呈現(xiàn)的圖像,這些圖像只有一些完整圖像的線索,但是確實是和原來看到的圖像是一致的。而“誘餌”圖像則是和被試本來的看到“舊”圖片是相似的但不完全相同的圖片,被試同樣會在“探針”試次中看到“誘餌”圖像的不同隱藏比例呈現(xiàn)的圖像,目的是引誘被試認(rèn)為該圖像是他看到過的“舊”圖像(但其實不是)?!凹倬瘓蟆眲t是指被試的“模式完成”這一認(rèn)知過程被錯誤地用在了不完整呈現(xiàn)的“誘餌”圖像時,將“誘餌”圖像認(rèn)為是原來看過的“舊”圖像,從而變成了錯誤記憶,將這種過程稱為“假警報”。本文涉及的分析指標(biāo)計算過程較為復(fù)雜,需要認(rèn)真理解才能明白其所代表的物理意義。
引言
記憶常常是一種猜謎游戲:我們從感知的環(huán)境中接收到零碎、嘈雜或退化的信息,然后必須“填補(bǔ)”空白。在遠(yuǎn)處看到一張模糊的臉,或者聽到一首熟悉的歌的音符,可能會突然引起對一個親密朋友的再認(rèn),或者一首曲子的不停哼唱。這種非凡的能力被認(rèn)為依賴于一種稱為“模式完成”的神經(jīng)計算過程。模式完成是指從部分或退化的輸入中檢索完整的記憶表征,其互補(bǔ)過程“模式分離”是指將相似的輸入轉(zhuǎn)換為不同的、不重疊的記憶軌跡。這兩個過程都被歸因于海馬中不同的亞區(qū),并有助于其在刺激或事件特征之間關(guān)系的編碼和檢索中發(fā)揮更廣泛的作用。
盡管模式分離和模式完成描述了神經(jīng)計算過程,但它們通常是從行為(記憶反應(yīng))中推斷出來的。也就是說,當(dāng)一個誘餌(即,相似的)項目(例如,兩張不同的蘋果圖片)被正確地識別為新項目時,認(rèn)為發(fā)生了模式分離;而當(dāng)一個誘餌項目被錯誤地識別為舊項目時,認(rèn)為發(fā)生了模式完成。雖然以前的工作通常依賴于這種對索引模式完成的反應(yīng),但這種方法是間接的,并且依賴于未經(jīng)測試的假設(shè):即,誘餌刺激的假警報是檢索原始編碼項目的結(jié)果。根據(jù)這種假設(shè),模式完成的操作應(yīng)該包括檢索測試探針中不存在的個別刺激特征,以及這些特征與測試探針中存在的特征之間的關(guān)系。
然而,無法從簡單的行為反應(yīng)中假設(shè)已經(jīng)檢索到了這樣一個詳細(xì)的關(guān)系表征。因此,為了更直接地評估該觀點,本研究使用眼動(EM)監(jiān)測來測量在編碼和檢索(可視化)退化誘餌刺激時被試和刺激特定的凝視模式之間的重疊,以此作為記憶表現(xiàn)的預(yù)測指標(biāo)。盡管行為反應(yīng)反映了底層檢索過程的結(jié)果,但基于眼動的恢復(fù)與相關(guān)信息的在線維護(hù)和檢索相聯(lián)系,使其成為評估再激活的一個強(qiáng)大工具。
EMs提供了一個獨(dú)特的窗口,可以及時了解認(rèn)知過程。使用EM監(jiān)控的研究表明,在編碼過程中,EMs參與了刺激特征與內(nèi)聚記憶表征的結(jié)合,以及在檢索過程中,EMs參與了檢索這些特征及其相互關(guān)系。例如,盡管固定的觀看會損害記憶,但自發(fā)的凝視轉(zhuǎn)移到與先前編碼(即觀看)的圖像特征相對應(yīng)的區(qū)域,已被證明有助于重新激活這些特征及其之間的關(guān)系。在記憶維持和檢索期間,記憶編碼相關(guān)的EMs的恢復(fù)或稱“凝視恢復(fù)”,與各種任務(wù)的記憶表現(xiàn)有關(guān)。即使在沒有視覺輸入的情況下,人類也會自發(fā)地將目光指向編碼過程中看過的圖像區(qū)域,這種凝視恢復(fù)與明確的記憶測量有關(guān)。
并且,最近的神經(jīng)影像學(xué)發(fā)現(xiàn)表明,凝視恢復(fù)可能依賴于與支持記憶檢索的相同的神經(jīng)機(jī)制。例如,Bone等人最近的一項研究發(fā)現(xiàn)被試在無刺激的視覺過程中恢復(fù)了與記憶編碼相關(guān)的EMs,并且該恢復(fù)與整個大腦神經(jīng)系統(tǒng)的重新激活正相關(guān)。(即,在感知和表象期間所誘發(fā)的大腦活動的圖像特定模式之間的相似性),這與客觀(改變探測表現(xiàn))和主觀(生動度評分)的記憶測量相關(guān)。對于結(jié)構(gòu)相似的場景圖像,區(qū)分擊中和漏報的凝視恢復(fù)也與海馬體的活動相關(guān),這支持了在EMs和海馬體介導(dǎo)的關(guān)系記憶過程之間存在功能聯(lián)系。鑒于EMs和記憶檢索以及它們背后的神經(jīng)網(wǎng)絡(luò)是密切相關(guān)的,本研究使用EM監(jiān)測來評估,在通過凝視恢復(fù)的誘餌圖像記憶辨別時,先前編碼刺激的實時再激活狀況。
從計算的角度來看,模式完成涉及從作為輸入模式的部分或退化的刺激到自動關(guān)聯(lián)網(wǎng)絡(luò)的總記憶痕跡的重新激活。因此,為了捕獲計算模型中定義的模式完成,本文使用了記憶線索,這些線索通過從識別探針中隨機(jī)移除信息塊而形成系統(tǒng)地退化。
在圖像編碼階段之后,給被試短暫地(<750ms)呈現(xiàn)舊的和誘餌測試圖像,誘餌測試圖像的一部分(0-80%)被遮擋。在做出舊的/新的再認(rèn)反應(yīng)之前,被試被要求在觀看空白屏幕時將呈現(xiàn)過的圖像形成表象(其實就是要求被試在空白屏回憶剛剛看過的刺激)。重要的是,在測試后間隔期間缺少視覺輸入,使得我們可以將記憶對檢索相關(guān)EMs的影響與測試探針視覺特性的影響區(qū)分開。
為了確定退化的測試探針是否引起了對應(yīng)(相同或相似)編碼刺激的檢索,計算了編碼和檢索相關(guān)凝視模式之間的重疊。如果誘餌刺激的假警報確實與通過模式完成對相似項目的檢索相關(guān),則應(yīng)在相伴的EMs中反映出來,EMs應(yīng)指向先前在最初呈現(xiàn)的刺激的記憶編碼過程中眼動凝視的屏幕區(qū)域。因此,作者假設(shè)在測試后的時間間隔內(nèi),即使圖像大體上退化,編碼和檢索相關(guān)的凝視模式之間的相似性應(yīng)該大于偶然性,表明相應(yīng)的編碼表征已被重新激活。此外,基于已有的凝視恢復(fù)和行為的模式完成的證據(jù),作者預(yù)測在部分線索提取過程中編碼相關(guān)EMs的恢復(fù)與對舊圖像的識別準(zhǔn)確率正相關(guān),與誘餌圖像的準(zhǔn)確率負(fù)相關(guān)。
方法
被試
被試是通過羅特曼研究所被試數(shù)據(jù)庫招募的64名19-35歲(平均23.66歲,標(biāo)準(zhǔn)差3.85歲)視力正常或矯正正常的年輕人(43名女性),研究得到了羅特曼研究所倫理委員會的批準(zhǔn)。所有被試在實驗前簽訂了知情同意書,獲得10美元/小時的補(bǔ)償。7名被試數(shù)據(jù)被排除在分析之外[缺失數(shù)據(jù)(n=2)、平均表現(xiàn)(正確識別)低于均值2.5個標(biāo)準(zhǔn)差(n=2)、平均凝視恢復(fù)大于均值3.5個標(biāo)準(zhǔn)差(n=1)、未遵守指導(dǎo)語(n=2)],對剩余57名被試的數(shù)據(jù)進(jìn)行分析。測量儀器刺激物在1024×768分辨率,19英寸Dell M991顯示器上呈現(xiàn)。使用頭戴式EyeLink II 眼動跟蹤系統(tǒng)以500Hz采樣率記錄單眼眼動(SR研究有限公司)。實驗前使用九點校準(zhǔn)程序完成眼動校準(zhǔn)。在試次間進(jìn)行漂移校正(>5°)。EyeLink將眼跳定義為視角大于0.5°,眨眼定義為三個或更多連續(xù)樣本的眼跳信號丟失,所有剩余樣本被歸類為注視。
實驗刺激
刺激包括240幅圖像或120組(A-B)獨(dú)特但相似的800×600像素圖像,呈現(xiàn)于黑色背景下。在測試階段,操作變量為圖像的持續(xù)時間(250ms,500ms,750ms)和退化水平(0%,20%,40%,60%,80%)。通過在圖像上隨機(jī)放置100×100像素的灰色正方形來降低圖像質(zhì)量(如圖1),以評估模式完成。模式完成的操作定義為,從部分或退化的輸入信息中檢索完整的記憶表征。將圖像隨機(jī)分配到四個研究/測試區(qū)組中的一個,在持續(xù)時間、退化水平和探針類型(舊的、新的)之間進(jìn)行平衡。每個研究區(qū)組呈現(xiàn)的30幅圖像中,被試重復(fù)看其中的15張圖像,將其視為測試目標(biāo)(“舊的”),從另一組相似圖像中提取的誘餌作為剩余15張目標(biāo)圖像。
圖1:舊刺激和誘餌刺激在各退化水平的圖像
程序
實驗開始之前,被試用新的圖片完成兩個短的測試練習(xí)(6個試次),以熟悉范式。被試隨后完成了四個改進(jìn)的再認(rèn)記憶測試(圖2),每個測試包含一組新的圖像。在每個研究組中,要求被試觀看和記憶30幅圖片,每幅圖片呈現(xiàn)四次。圖片呈現(xiàn)順序在每次重復(fù)中隨機(jī)排列。在每個試次中,每張圖片呈現(xiàn)3秒,兩個試驗間呈現(xiàn)一個2秒的注視點,在此期間,如果必要的話,實驗者可以進(jìn)行在線漂移校正。
在研究組之后,被試在測試組內(nèi),測試他們對研究圖像的記憶。在每個測試試次,呈現(xiàn)給被試一張舊的(在研究中呈現(xiàn)的)或新的(誘餌:類似,但與在研究中呈現(xiàn)的圖像不同)圖像,持續(xù)250、500或750ms,接著呈現(xiàn)一張50ms的掩蔽刺激。掩蔽的目的是防止在測試后間隔期間注視感覺持續(xù)而影響下一次觀看。操縱圖像的呈現(xiàn),使每個圖像在完全(0%退化)或20%、40%、60%或80%退化的情況下呈現(xiàn)。要求被試在做出反應(yīng)時忽略灰色方塊(即,其反應(yīng)基于基礎(chǔ)圖像的可見部分)。在掩蔽之后,呈現(xiàn)給被試一個與研究和測試圖像(800×600像素)大小相同的灰色方塊,在黑色背景下持續(xù)3秒,在此期間,指示他們將呈現(xiàn)的測試圖像可視化(注意:這里所說的可視化其實就是讓被試通過回憶剛才看到的圖像,從而使用眼動在灰色屏幕上反應(yīng)出的移動線索來查看被試的“可視化”效果)
在這個測試間隔之后,給予被試3秒時間,使其通過按鍵來表示呈現(xiàn)的測試圖像是“舊的”還是“新的”。只有當(dāng)測試圖像與研究期間呈現(xiàn)的圖像完全相同時,才要求被試反應(yīng)為“舊”圖像,對所有其他圖像(即誘餌)反應(yīng)為“新”圖像。用一個可變長度(2-6s)的注視點分離測試試次,在此期間,由實驗者自行決定進(jìn)行在線漂移校正。
在每個測試組中,每個先前編碼的30張圖片在一種條件下呈現(xiàn),條件是指:探針類型(舊的,誘餌)、持續(xù)時間(250、500、750)和退化水平(0,20,40,60,80)共30個條件。在四個研究/測試組中,每種情況下共產(chǎn)生四幅圖片。
圖2:實驗程序
在研究期間,每張圖像呈現(xiàn)3000毫秒。在試驗之間出現(xiàn)2000毫秒的注視十字(此處未顯示),以便進(jìn)行在線漂移校正。每張研究圖像呈現(xiàn)四次。在測試期間,每個測試探針呈現(xiàn)250、500或750 ms,要么完全呈現(xiàn)(0%退化),要么20%、40%、60%或80%的圖像被100×100像素的灰色正方形遮擋。在測試探針之后,呈現(xiàn)一個視覺掩蔽50毫秒,之后呈現(xiàn)一個灰色方塊3000毫秒,在此期間,要求被試將呈現(xiàn)的圖像可視化。最后,給受試者3000毫秒的時間,以表示呈現(xiàn)的圖像是“舊的”(在研究中呈現(xiàn))還是“新的”(即,誘餌:與研究中呈現(xiàn)的圖像相似,但不完全相同)。請注意,所有圖像和灰色測試后間隔方塊在黑色背景上以800×600像素顯示;圖像在此展開以進(jìn)行可視化。
EM(眼動)分析
在本研究中,作者使用R 眼動包(https://github.com/bbuchsbaum/eysim),計算了基于眼動恢復(fù)的檢索相關(guān)的三個獨(dú)立測量指標(biāo),分布在編碼或測試和檢索期間(圖3和圖4)的空間注視模式之間的相似性。為了計算恢復(fù)分?jǐn)?shù),使用在該間隔內(nèi)重疊的所有注視點為每個相關(guān)間隔(例如編碼)生成持續(xù)時間權(quán)重、平滑注視密度圖(更多詳細(xì)信息,參見附錄)。
使用Pearson相關(guān)比較了相應(yīng)的密度圖,并轉(zhuǎn)化為Z值。該相關(guān)性產(chǎn)生了一個單獨(dú)的值,代表了測試后間隔期間注視點和研究/測試期間注視點(即原始恢復(fù))之間的空間重疊。為了確保恢復(fù)值是由記憶驅(qū)動,而不是由一般的觀看模式(例如,中心偏倚)驅(qū)動的,每個被試特定的測試后間隔密度圖與50個其他隨機(jī)選擇的跨被試研究(或測試)圖像密度圖(取決于正在計算的測量)進(jìn)行額外相關(guān)計算。然后,對該排列產(chǎn)生的值進(jìn)行平均,以獲得控制(跨圖像)恢復(fù)分?jǐn)?shù)(即,排列恢復(fù))。然后,將得到的置換恢復(fù)分?jǐn)?shù)從感興趣的原始恢復(fù)分?jǐn)?shù)中提取出來,得到最終的差異分?jǐn)?shù)。這樣,所有基于眼動的恢復(fù)測量都可以控制圖像不變的觀看傾向,包括注視屏幕中心的傾向。
圖3:編碼和檢索過程中單個被試的EMs可視化。
在本例中,檢索線索是以40%退化率呈現(xiàn)的誘餌圖像。這里顯示誘餌圖像是為了實現(xiàn)可視化的目的;在檢索過程中,屏幕上沒有顯示誘餌圖像。注意,在檢索時EMs延伸到中心圖形的右側(cè),到先前被編碼圖像中的圖形占用的位置。
圖4: 三種基于EM的恢復(fù)測量的說明。
熱圖反映注視密度,熱值顯示注視密度高的區(qū)域。探針恢復(fù)是通過關(guān)聯(lián)測試探針產(chǎn)生的熱圖來計算的,熱圖是在研究期間觀看相同圖像的所有被試和隨后在測試間隔期間檢索該圖像(或類似誘餌)的單個被試(S1)注視點的加權(quán)。圖像恢復(fù)是通過關(guān)聯(lián)所有被試(S All)在四個研究中觀看單個圖像的累積注視產(chǎn)生的熱圖和單個被試(S1)隨后在測試后間隔期間檢索該圖像(或類似誘餌)來計算的。凝視恢復(fù)是通過關(guān)聯(lián)單個被試(S1)在四個研究中觀看單個圖像的累積注視產(chǎn)生的熱圖,隨后在測試后間隔期間檢索該圖像(或類似誘餌)來計算的。所有密度圖都是平滑的,并且由持續(xù)時間加權(quán)。
雖然主要對基于EM的長時記憶信息恢復(fù)感興趣,但在測試后間隔期間,EMs有可能恢復(fù)剛剛呈現(xiàn)的測試探針圖像的顯著區(qū)域。因此,為了區(qū)分由編碼圖像記憶引導(dǎo)的恢復(fù)和由剛呈現(xiàn)的測試探針記憶引導(dǎo)的恢復(fù),本文計算了探針恢復(fù)的測量值,反映了觀察測試探針的所有被試EM模式之間的相似性(即,在研究期間,由編碼相同圖像的所有被試的EM模式加權(quán)的測試圖像的可見部分),以及在3秒無刺激測試后間隔期間,隨后檢索該圖像(或交替誘餌圖像)的單個被試的眼動模式。
為了從長期記憶中量化圖像特征的恢復(fù),計算了兩個額外的恢復(fù)測量。凝視恢復(fù)反映了單個被試在4個學(xué)習(xí)機(jī)會中編碼單個圖像的EM模式與隨后在3s無刺激測試后時間間隔內(nèi)檢索相同圖像(或類似誘餌)之間的相似性。基于EMs既編碼又嵌入記憶表征的理論,該測量捕獲編碼圖像的恢復(fù),包括相應(yīng)的編碼操作,在這種情況下EMs的模式。盡管有大量的研究支持這種凝視恢復(fù)在記憶提取中的特定作用,但其它研究表明,檢索相關(guān)的EMs可以恢復(fù)編碼刺激的顯著區(qū)域,即使EMs在編碼時受到限制。因此,為了區(qū)分特殊恢復(fù)和更一般的圖像恢復(fù),并確定在恢復(fù)編碼圖像的一般顯著或語義信息區(qū)域所賦予的好處之外,恢復(fù)自己的注視是否有利于記憶,我們還測量了圖像恢復(fù)。該測量反映了在四個研究機(jī)會中編碼單個圖像的所有被試的EM模式與隨后在3-s無刺激測試后時間間隔內(nèi)檢索該圖像的單個被試的EM模式之間的相似性,并捕獲編碼圖像的恢復(fù),而無需伴隨EMs的恢復(fù)。
對于舊圖像,通過分別在研究期間和試驗后間隔內(nèi)(即A-A)比較同一圖像的編碼和檢索相對應(yīng)的凝視模式來進(jìn)行分析。重要的是,對于測試時呈現(xiàn)的誘餌圖像,測試后間隔的凝視模式與研究期間類似(誘餌)圖像的編碼對應(yīng)的凝視模式(即A-B)相比較。因此,一張舊圖像的高凝視恢復(fù)分?jǐn)?shù)表示相同圖像的恢復(fù),而一張誘餌圖像的高分?jǐn)?shù)表示相似研究圖像的恢復(fù)。
附錄:
密度圖計算
為了生成密度圖,使用了二維核密度估計,這是在R MASS包(1)的kde2d函數(shù)中實現(xiàn)的。根據(jù)以下公式計算均勻網(wǎng)格(寬度=80,高度=60)上任何點(x,y)跨越所呈現(xiàn)圖像(800×600像素)維度的核密度估計:
其中d是注視持續(xù)時間,φ是具有標(biāo)準(zhǔn)偏差σ=80像素的零均值高斯分布,n是注視總數(shù),i是注視指數(shù)。實際上,為了促進(jìn)與kde2d函數(shù)的交互作用,通過以50ms為注視持續(xù)時間增量復(fù)制每個注視來實現(xiàn)注視持續(xù)時間d的加權(quán)。例如,如果注視持續(xù)150毫秒,則該注視將在進(jìn)入核密度估計程序之前重復(fù)3次(150/50=3)。最后,在空間上對注視點進(jìn)行規(guī)范化,使得所有空間位置的總和等于1。分析中排除了持續(xù)時間短于80ms的注視點和延遲期開始前開始的注視點。
凝視恢復(fù)
為了測量特定于被試和圖像的記憶恢復(fù),為每個被試生成了每個研究圖像的密度圖,使用屬于該被試的所有注視點在所有四個區(qū)塊中查看該圖像(同一圖像的四種呈現(xiàn);平均值=每個圖像顯示7.96個注視點)。同樣的方法也適用于圖像檢索,使用在測試后間隔期間的所有注視點(測試探針和響應(yīng)屏幕顯示之間的3秒時間;平均值=5.36個注視點)。
圖像復(fù)原
雖然凝視恢復(fù)提供了被試通過再現(xiàn)其自身凝視模式來檢索編碼圖像的索引,但是在測試后間隔期間的恢復(fù)可能是被試不變的。也就是說,檢索相關(guān)的凝視模式可能反映了對所研究圖像的一般顯著區(qū)域的檢索,而沒有被試特定的相關(guān)EM模式恢復(fù)。因此,為了測量被試不變的顯著圖像區(qū)域的恢復(fù),為每個研究的圖像生成了持續(xù)時間加權(quán)的平滑密度圖,使用的是所有被試在所有四個區(qū)塊中查看該圖像的所有注視點。將這些跨受試者的研究密度圖與反映了單個受試者觀看單個圖像時在測試后間隔期間的注視點密度圖進(jìn)行比較。通過比較凝視恢復(fù)和圖像恢復(fù),能夠區(qū)分特定于圖像的恢復(fù)和特定于被試的恢復(fù),并確定恢復(fù)自己的注視是否有利于恢復(fù)記憶,而不僅僅是恢復(fù)記憶圖像的一般顯著區(qū)域。
探針恢復(fù)
最后,為了確定測試后間隔恢復(fù)是否反映了從剛剛呈現(xiàn)的測試探針收集的信息,計算了從測試探針圖像生成的密度圖在被試特定和圖像特定的測試后間隔注視點的相似性。密度圖是通過首先為測試探針可見正方形內(nèi)的每個像素生成偽注視點來創(chuàng)建的,這樣每個可見像素的坐標(biāo)被視為注視。然后創(chuàng)建了這些偽注視(即可見圖像正方形)的平滑地圖(σ=80)乘以該圖像的交叉被試研究密度地圖(見圖像復(fù)原)。這使測試探針的可見正方形可以由其各自的顯著性值加權(quán),該值由在研究期間觀看該圖像的所有被試的凝視模式確定。此過程有效地降低了注視權(quán)重,例如在圖像外圍(邊、頂、角)的可見正方形,這些往往吸引很少的注視點。得到的密度圖反映了測試探針圖像可見部分的整體顯著性。
數(shù)據(jù)分析
為了研究影響再認(rèn)任務(wù)表現(xiàn)的因素,使用bobyqa優(yōu)化器運(yùn)行了一個廣義線性混合效應(yīng)模型(GLMM;包lme4,45的glmer),用于試次水平正確率(正確,錯誤,具有二項分布和logistic線性函數(shù))和凝視恢復(fù)、圖像恢復(fù)、探針恢復(fù)的線性混合效應(yīng)模型(LMEM),使用探針類型(舊的,誘餌)、退化水平(0%、20%、40%、60%、80%)和持續(xù)時間(250 ms、500 ms、750 ms)作為自變量。
為了便于對顯著交互進(jìn)行簡單效應(yīng)分析,探針類型被記錄為0(舊的)和1(誘餌)。標(biāo)準(zhǔn)化持續(xù)時間和退化,被試和項目被建模為隨機(jī)效應(yīng)(截距)。為了建立模型,使用了一種后向選擇方法(即建立全模型,然后刪除無關(guān)自變量的方法),從一個最大模型開始,它包括所有變量及其交互的固定效應(yīng),以及被試和項目的隨機(jī)截取。用似然比檢驗比較模型,顯著性水平α=0.05,以逐步方式從模型中移除不顯著的固定效應(yīng),直到?jīng)]有進(jìn)一步的模型變化導(dǎo)致顯著的似然比檢驗。報告了通過模型比較得出的最終最佳擬合模型的結(jié)果,其顯著性值近似于lmerTest R包。
為了評估假設(shè),即凝視恢復(fù)應(yīng)該是對舊圖像正確率的積極預(yù)測和對誘餌圖像正確率的消極預(yù)測,本文通過將每個描述的恢復(fù)分?jǐn)?shù)加到行為分析的最終GLMM,對正確率運(yùn)行了三次額外的GLMMs。利用α=0.05似然比檢驗將包括恢復(fù)的模型與基礎(chǔ)模型進(jìn)行比較。模型比較以逐步的方式進(jìn)行,從恢復(fù)的主效應(yīng)開始,到恢復(fù)與其他預(yù)測因子的交互效應(yīng),這樣,只有顯著改善模型擬合度的效應(yīng)才得以保留。
為了研究凝視恢復(fù)與行為表現(xiàn)之間關(guān)系的個體差異,分別為舊圖像和誘餌圖像的凝視恢復(fù)和正確率(總正確率)運(yùn)行了Pearson 相關(guān)(自舉迭代=5000)。
最后,為了檢查恢復(fù)隨時間的變化,從三個密度圖(凝視、圖像和探針,如前所述)中的每一個中提取出與在測試后間隔內(nèi)每個時間點的注視位置相對應(yīng)的值,以50 ms間隔采樣。該分析使我們能夠確定在檢索的各個階段的注視位置是否最好地反映了測試探針圖像的恢復(fù)(即探針恢復(fù))、先前編碼的圖像(即圖像恢復(fù))或先前編碼的圖像以及伴隨的凝視模式(即凝視恢復(fù))。為了便于分析和解釋,將每個時間點的值聚合到三個1000毫秒的離散時間中。然后,對以密度為因變量,以正確性(正確、不正確)、測量(即密度圖:凝視、圖像、探頭)和時間(T1:0至1000 ms、T2:1000至2000 ms、T3:2000至3000 ms)為自變量的舊圖像和誘餌圖像分別運(yùn)行LMEM。為了便于對顯著交互作用進(jìn)行簡單效應(yīng)分析,將準(zhǔn)確性編碼為0(不正確)和1(正確),時間編碼為線性效應(yīng)。為了評估恢復(fù)測量對密度的影響,對測量進(jìn)行編碼,使凝視密度圖作為參考水平。被試和項目被建模為隨機(jī)效應(yīng)(截距)。采用似然比檢驗,α=0.05,以反向逐步方式比較模型。
結(jié)果
行為學(xué)結(jié)果
通過模型比較得出的準(zhǔn)確度最佳擬合模型的結(jié)果顯示了探針類型、持續(xù)時間和失真化的顯著影響(表1)。相對于誘餌圖像(圖5A),舊圖像的記憶正確率更高,并且隨著測試探針持續(xù)時間的增加(圖5B)和測試探針退化程度的降低(圖5C)而增加。
表1 行為結(jié)果
圖5: 探針類型、持續(xù)時間、退化的正確率(總正確百分比)。注意,雖然這里的y軸對應(yīng)于總的正確百分比,但這只是為了可視化的目的。GLMM使用試次水平二分正確性測量(正確、錯誤)
EM結(jié)果
為了調(diào)查導(dǎo)致測試探針和編碼圖像恢復(fù)的因素,我們對探針恢復(fù)、圖像恢復(fù)和凝視恢復(fù)運(yùn)行了LMEMs,以持續(xù)時間、退化和探針類型為預(yù)測因子。我們特別感興趣的是每一個這些測量區(qū)分舊圖像和誘餌圖像檢索的能力。對于所有分析,恢復(fù)是指原始恢復(fù)分?jǐn)?shù)和排列恢復(fù)分?jǐn)?shù)之間的差異,例如正的分?jǐn)?shù)表示同一圖像的恢復(fù)比從排列變化中得到的其他圖像的恢復(fù)要大。
探針恢復(fù)
通過模型比較得出的探針恢復(fù)的最佳擬合模型(即測試探針圖像的恢復(fù))(表2)的結(jié)果顯示了持續(xù)時間(圖6A)和退化(圖6B)的顯著影響,表明測試探針的恢復(fù)隨著測試探針持續(xù)時間的增加和退化而減少。表2 探針恢復(fù)
圖像恢復(fù)
通過模型比較得出的最佳圖像恢復(fù)模型(即一般顯著圖像區(qū)域的恢復(fù))(表S3)的結(jié)果顯示了持續(xù)時間的顯著主效應(yīng),和持續(xù)時間×退化的顯著交互效應(yīng)(圖6C),結(jié)果表明,隨著測試探針持續(xù)時間的增加,恢復(fù)降低,而且隨著測試探針退化的增加,該效應(yīng)衰減。
表3 圖像恢復(fù)
凝視恢復(fù)
在進(jìn)行凝視恢復(fù)前,我們首先將原始恢復(fù)值(圖像內(nèi))與排列恢復(fù)值(圖像間)進(jìn)行比較,以確保檢索相關(guān)的凝視模式與反映相同圖像的編碼相關(guān)凝視模式更接近,而不是反映其他圖像的編碼相關(guān)凝視模式。原始恢復(fù)值(平均值=0.22)與置換恢復(fù)值(平均值=0.19)配對樣本t檢驗顯著[t(56)=3.42,P=0.001,95%CI:0.014,0.052](圖6D),表明編碼相關(guān)注視模式的恢復(fù)確實大于基于一般觀看傾向的預(yù)期,如注視屏幕中心的傾向。
雖然探針類型在探針恢復(fù)和圖像恢復(fù)模型中都被排除,但通過模型比較得出的凝視恢復(fù)的最佳擬合模型(即,恢復(fù)自己的注視)(表4)的結(jié)果顯示了探針類型對凝視恢復(fù)的顯著影響(圖6E),表明編碼相關(guān)凝視模式的恢復(fù)區(qū)分了舊圖像和誘餌圖像的檢索。值得注意的是,通過bootstrap被試平均值(bootstrap迭代次數(shù)=5000)獲得的平均凝視恢復(fù)分?jǐn)?shù)在所有測試探針持續(xù)時間水平(mean250 = 0.037, 95% CI250: 0.018, 0.057; mean500 = 0.035, 95% CI500: 0.016, 0.054; mean750 = 0.026, 95% CI750: 0.007, 0.046)和圖像退化水平(mean0 = 0.032, 95% CI0: 0.012, 0.052; mean20 = 0.039, 95% CI20: 0.018, 0.057; mean40 = 0.037, 95% CI40: 0.018, 0.057; mean60 = 0.024, 95% CI60: 0.004, 0.044; mean80 = 0.032, 95% CI80: 0.012, 0.053)中均大于0,這表明即使短暫呈現(xiàn)或嚴(yán)重退化的視覺輸入也足以引起凝視恢復(fù)。
表4 凝視恢復(fù)
圖6 (A) 隨持續(xù)時間和(B)退化的探針恢復(fù)。(C) 隨持續(xù)時間和退化的圖像恢復(fù)。(D)圖像內(nèi)和跨圖像(排列50次)的恢復(fù)分?jǐn)?shù)。凝視恢復(fù)是通過圖像內(nèi)(原始)分?jǐn)?shù)減去圖像間(排列)分?jǐn)?shù)來計算的。(E) 隨探針類型的凝視恢復(fù)。
眼動結(jié)果總結(jié)
觀察行為分析的結(jié)果表明,隨著測試探針持續(xù)時間的增加,探針恢復(fù)和圖像恢復(fù)都顯著減少,表明在視覺線索不足的情況下,EMs可能在檢索中發(fā)揮更重要的作用。測試探針的退化顯著地影響了探針圖像的恢復(fù),但對圖像恢復(fù)或凝視恢復(fù)沒有影響,進(jìn)一步表明稀疏的視覺信息足以從長期記憶中恢復(fù)編碼圖像,而測試探針的恢復(fù)則取決于其視覺特性。最后,只有凝視恢復(fù)顯示出探針類型的顯著效應(yīng),與誘餌測試探針相比,舊測試探針的凝視恢復(fù)更大。為了進(jìn)一步研究凝視恢復(fù)是否在檢索中起到特殊作用,隨后,我們在一個包含所有恢復(fù)測量的模型中研究了凝視恢復(fù)和記憶表現(xiàn)之間的關(guān)系。
EM和行為間的關(guān)系
為了驗證我們的假設(shè),即凝視恢復(fù)應(yīng)該與舊圖像的正確率正相關(guān),與誘餌圖像的正確率負(fù)相關(guān),我們研究了將每個先前描述的恢復(fù)分?jǐn)?shù)添加到準(zhǔn)確性模型(表S1)中是否能提高模型的擬合度。與預(yù)期一樣,凝視恢復(fù)的增加顯著提高了模型的擬合度(X2=13.502,P<0.001),而圖像恢復(fù)(X2=2.347,P=0.126)和探針恢復(fù)(X2=0.290,P=0.590)的增加沒有改善模型的擬合度。為了解釋編碼效應(yīng),我們還添加了研究期間(四個研究)每張圖像注視點的累積數(shù)量(Z分?jǐn)?shù))作為預(yù)測因子。已有研究表明該測量與記憶正確率和海馬激活度有關(guān)。累積研究注視點的增加顯著提高了模型的擬合度(X2=10.354,P=0.001),凝視恢復(fù)和累積研究注視與其他預(yù)測因子(探針類型、持續(xù)時間、退化)以及彼此之間的相互作用,隨后以逐步的方式添加到模型中。只有凝視恢復(fù)和探針類型的交互作用顯著提高了模型的擬合度(X2=9.812,P=0.002)。通過模型比較得出的最佳擬合精度模型(包括凝視恢復(fù)和累積研究注視點)的結(jié)果如表1所示。表1:眼動與行為間的關(guān)系
被試的隨機(jī)效應(yīng)方差和標(biāo)準(zhǔn)差(截距)分別為0.148和0.384。對于項目(截距),這些值分別為0.427和0.653。模型方程:正確率~注視恢復(fù)+探針類型+持續(xù)時間+退化+累積研究注視+凝視恢復(fù)×探針類型+(1 |被試)+(1 |項目)。*P<0.05,***P<0.001。
通過模型比較得出的最終最佳擬合精度模型(表1)的結(jié)果顯示了探針類型(舊>誘餌)、持續(xù)時間和退化的顯著影響,隨著測試探針持續(xù)時間的增加和測試探針退化的降低,正確率增加。與之前的研究一致,累積性研究注視(編碼成功的一種測量)顯著預(yù)測了再認(rèn)任務(wù)的正確率。最后,圖像恢復(fù)對舊圖像正確率的影響不顯著,對誘餌圖像正確率影響顯著負(fù),這表明被試和圖像特定編碼相關(guān)的凝視模式的恢復(fù)不支持舊圖像的識別,但在測試時對相似(誘餌)圖像的誤報有預(yù)測作用。
為了確定GLMM所揭示的凝視恢復(fù)和探針類型之間的顯著交互作用,在一項跨被試分析中,我們分別對舊圖像和誘餌圖像(圖7A)進(jìn)行了凝視恢復(fù)和正確率(總體正確率)的bootstrap皮爾遜相關(guān)(bootstrap迭代=5000)。正如被試內(nèi)分析中的情況一樣,我們沒有發(fā)現(xiàn)證據(jù)支持凝視恢復(fù)預(yù)測舊圖像正確識別的假設(shè)(r=0.035,95%CI:-0.203,0.278)。然而,根據(jù)我們的預(yù)測和被試內(nèi)分析的結(jié)果,凝視恢復(fù)和誘餌圖像的正確率之間存在穩(wěn)健的負(fù)相關(guān),這表明在測試后間隔期間,被試和圖像特定的編碼相關(guān)凝視模式的恢復(fù)預(yù)測了將相似圖像錯認(rèn)為舊圖像(r=-0.399,95%CI:-0.664,-0.148)。
先前研究表明,當(dāng)認(rèn)知需求超過認(rèn)知資源時,凝視恢復(fù)可能只會有助于記憶表現(xiàn)??紤]到舊圖像的表現(xiàn)已經(jīng)到了極限,我們無法探測該效應(yīng)。因此,為了檢驗記憶需求是否調(diào)節(jié)了舊圖像的凝視恢復(fù)效果,我們根據(jù)每張圖像的平均正確率(中值=80.702)對數(shù)據(jù)進(jìn)行了中值分割,用它來估計正確識別圖像的難度。與之前bootstrap結(jié)果一致,當(dāng)分析中僅包含簡單圖像時(r=-0.075,95%CI:-0.324,0.167)(圖7B),凝視恢復(fù)與正確率沒有顯著相關(guān)性。然而,當(dāng)分析中只包括困難圖像時,凝視恢復(fù)與舊圖像的正確率正相關(guān)(r=0.234,95%CI:0.014,0.469)(圖7C)。
圖7:對(A)所有圖像,(B)簡單圖像(平均準(zhǔn)確度>80.702)和(C)困難圖像(平均正確率<80.702)來說,舊的和誘餌注視恢復(fù)和正確率(總正確率)的相關(guān)性。
隨時間恢復(fù)
為了可視化三種恢復(fù)測量在檢索間隔內(nèi)的不同軌跡,我們提取了每種測量(探針恢復(fù)、圖像恢復(fù),凝視恢復(fù))的密度值,從測試探針開始到測試間隔結(jié)束時間內(nèi)的離散點,通過以50ms間隔從三個密度圖中的每一個進(jìn)行采樣(隨持續(xù)時間和退化塌陷)(圖8)。然后,我們分別對舊圖像和誘餌圖像的密度進(jìn)行LMEMs,正確性(正確,1;錯誤,0)、測量(即密度圖:凝視[參考變量]、圖像、探針)和時間,聚合到三個box中,并作為自變量對線性效應(yīng)(T1:0到1000 ms、T2:1000到2000 ms、T3:2000到3000 ms)進(jìn)行編碼。通過模型比較得出的最終最佳擬合模型的結(jié)果報告如下。
圖8:隨著時間的推移舊圖像和誘餌圖像凝視恢復(fù),圖像恢復(fù),探針恢復(fù)?;謴?fù)時間由各點(50 ms)相應(yīng)密度圖中的值進(jìn)行索引。實線表示正確的反應(yīng),虛線表示不正確的反應(yīng)。
時間分析總結(jié)
總之,時間分析的結(jié)果揭示了EMs隨時間的空間分布的變化,以及在測試后間隔內(nèi)舊圖像和誘餌圖像的不同凝視軌跡。對于舊圖像和誘餌圖像,早期的注視點會返回到先前被測試探針的顯著區(qū)域占據(jù)的屏幕區(qū)域。然而,隨著時間的增加,EMs主要指向先前被研究圖像的顯著區(qū)域所占據(jù)的區(qū)域,特別是先前被注視的區(qū)域(即凝視恢復(fù))。這些發(fā)現(xiàn)表明,盡管在檢索期間最初的EMs可能被實時的感覺輸入所偏向,但隨后的EMs越來越受到記憶過程的驅(qū)動。此外,凝視恢復(fù)與隨后的記憶判斷有關(guān),測試后間隔早期,與漏報相比,正確拒絕的凝視恢復(fù)更大,測試后間隔期間,假警報比正確拒絕的凝視恢復(fù)更大。綜上所述,這些發(fā)現(xiàn)表明,EMs通過在時間和空間上不同程度地恢復(fù)記憶內(nèi)容而靈活地支持記憶檢索。
總結(jié):
綜上所述,本研究使用眼動監(jiān)測來提供證據(jù),即誘餌假警報是模式完成的結(jié)果,因此,被試對于不完整呈現(xiàn)的測試探針,檢索視覺上與先前編碼的圖像是相似的。在給定部分檢索提示的情況下,被試為相同(舊)或相似(誘餌)圖像恢復(fù)與編碼相關(guān)的EMs,這種凝視恢復(fù)既支持舊圖像的再認(rèn),又增加了誘餌圖像假報警的可能性。
在檢索過程中,凝視軌跡從最初恢復(fù)剛剛看到的感覺輸入到隨后從記憶中恢復(fù)圖像特征和伴隨的EMs,這表明基于EM的恢復(fù)涉及的組成過程可以靈活地適應(yīng)和隨時間變化。關(guān)鍵的是,這些發(fā)現(xiàn)擴(kuò)展了先前的工作,首先表明凝視恢復(fù)可以為偶然的行為模式完成提供一個豐富的預(yù)測信息(即,誘餌假警報),然后,在檢索過程中完成或重新激活的輸入的“模式”不僅涉及刺激本身(即,圖像恢復(fù)),也包括刺激被編碼的操作(即,凝視恢復(fù))。因此,總的來說,本研究的結(jié)果表明,凝視恢復(fù)支持行為模式完成,作為其在記憶提取中更大作用的一部分。更具體地說,通過重新制定EMs的編碼序列,凝視恢復(fù)反映并可能有助于重新激活編碼刺激特征和它們之間的關(guān)系,它們共同構(gòu)成一個“模式”,可以隨后“完成”或在給定部分輸入提示的情況下檢索。進(jìn)一步的研究應(yīng)該繼續(xù)探索EMs支持復(fù)雜刺激檢索的各種方式,以及通過凝視恢復(fù)獲得的信息可能有助于指導(dǎo)適應(yīng)性行為。
微信掃碼或者長按選擇識別關(guān)注思影
如對思影課程感興趣也可微信號siyingyxf或18983979082咨詢。覺得有幫助,給個轉(zhuǎn)發(fā),或許身邊的朋友正需要。請直接點擊下文文字即可瀏覽思影科技其他課程及數(shù)據(jù)處理服務(wù),歡迎報名與咨詢,目前全部課程均開放報名,報名后我們會第一時間聯(lián)系,并保留名額。
更新通知:第十屆腦影像機(jī)器學(xué)習(xí)班(已確定)
更新通知:第十二屆磁共振彌散張量成像數(shù)據(jù)處理班(已確定)
第六屆任務(wù)態(tài)fMRI專題班(預(yù)報名,南京)
更新通知:第二十八屆磁共振腦影像基礎(chǔ)班(重慶,已確定)