北大团队构建“情境化构念表征”框架,用AI大模型感知已逝去的心灵 北大团队构建“情境化构念表征”框架,用AI大模型感知已逝去的心灵
admin
2024-03-31 20:05:04
0次

历史学和考古学的目的,是重现已消逝的生活。而历史文本,则是心理学家眼中的“遗迹”和“化石”。

北京大学历史系博士生、美国哈佛大学定量社会科学研究所联合培养博士生陈钰琪和合作者,则希望利用 AI 模型在大规模的历史文本中测量那些已逝去的心灵。


图 | 陈钰琪(来源:陈钰琪)

长期以来,文化心理学家对人类的历史一直抱有强烈的兴趣,因为文化和心理的演进并非一蹴而就,而是在漫长的历史时段中形成的。他们的思想与行为是由社会塑造的,而社会是由历史塑造的。

然而,问卷调查等科学实验方法在面对已逝去的心灵时没有用武之地,研究者们因历史无法重现而束手无策。

而自然语言处理(NLP,Natural Language Processing)与文本定量分析方法的不断更新,为相关研究带来了越来越多的可能。

基于此,陈钰琪等人开发了一种名为“情境化构念表征”(CCR,Contextualized Construct Representation)的框架,以用于测量带有上下文情境的历史文本中的心理构念,如集体主义、传统主义、社会规范强度等。


(来源:arXiv)

CCR 方法的基本原理是利用 Transformer 模型,同时辅以心理学量表与待测量文本的文本嵌入,并通过相似度计算得到待测量文本在该量表主题下的“载荷分数”。

通过在专门测试集上执行语义文本相似度、量表分类和心理测量等任务,陈钰琪和合作者针对 CCR 方法、过去心理学界主流采用的“分布式词典表征”(DDR,Distributed Dictionary Representation)方法、基于生成式大模型的小样本提示方法这三种方法,在不同模型上的表现进行了比较。


(来源:arXiv)

通过使用微调之后的模型,他们发现 CCR 方法在所有任务上的表现,均超过了传统的 DDR 方法,并在大部分任务上也超过了使用 GPT-4(gpt-4-turbo-0125-preview 版本)的小样本提示方法。


(来源:arXiv)

此外,他们也在由人工标注的真实历史数据集上,验证了 CCR 方法的可靠性。比如,通过 CCR 方法测量北宋时期不同官员所撰写文章中传统主义的心理指标分数,可以有效推测该官员是否在王安石新政中支持变法。

总的来说,该方法可以帮助心理学家、历史学家以及任何对古代文化演变感兴趣的研究人员,在相对较低的计算资源耗费下,针对不同的心理学构念或文化主题,对古代历史文本进行大规模的测量和分析,进而验证假说,揭示现代文化现象的历史根源。

研究中,他们面临的第一个问题是,受到广泛认可的心理学量表绝大多数是英文的,因此需要先将英文量表与中国古代文言文进行对齐,才能进行下一步测量。

直接将英文翻译为文言文可能是不妥当的,因为在相关语境差异巨大的情况下,很多词汇难以找到合适的表达,由人工生造的句子往往显得生硬。

为了解决这个问题,他们采用了清华大学教授课题组之前的方法,使用多语言的引文推荐模型,将与量表中的英文句子语义相似度高的文言文引文放入备选池。

并进一步通过手工筛选去除噪音,得到与英文量表对应的文言文量表。这些引文均来自于实际历史文本,而非翻译或人工生成,因此自然而然地符合文言文的语境。

接下来的第二个问题是,要从中国古代历史文本得到准确的文本嵌入需要合适的模型。目前,已有许多在文言文语料上预训练的 Transformer 模型,但没有针对语义相似度或心理测量这一特殊下游任务的模型。

针对语义相似度等任务进行训练的中文文本嵌入模型,则往往基于现代语料和数据集,因此并不适应于专门的心理测量任务。

而他们所需要的文本嵌入模型,要能够对文言文、尤其是文言文中的心理构念及其上下文情境进行准确的表征,只有这样才能胜任从道德价值判断的角度进行语义相似度计算的任务。


(来源:arXiv)

为了解决这一问题,他们提出一种基于间接监督和对比学习的训练方法。

由于相关领域数据的缺乏,他们通过手工搜集的方式,构建了第一个中文历史心理学语料库(C-HI-PSY,Chinese Historical Psychology Corpus),该语料库包括 667 个与心理或道德相关主题下的 21539 条文言文段落。

然后,他们通过在更大规模文言文语料上训练的词向量模型,获取了不同主题的词向量表示,借此计算不同主题词向量之间的相似度,并将之作为不同主题所对应文本之间心理语义层面相似度的伪真值。

后又通过随机采样或困难采样等不同的采样方式,为 C-HI-PSY 训练集中的每一个段落,采集 n 个相似度伪真值高的正样本、以及相似度伪真值低的负样本,借此构成 anchor-positive-negative 三元组,从而利用三元组损失函数对模型进行微调。

接着,他们在多个针对文言文或中文的 Transformer 模型上,根据不同的超参数组合进行实验,在 C-HI-PSY 验证集和测试集上分别进行语义相似度任务的评估。结果发现,所有模型在微调后的表现都有显著提高。


(来源:arXiv)

最终,相关论文以《审视死去的心灵:文言文语境化构念表征的历史心理文本分析》( )为题发在 arXiv[1]。

陈钰琪是第一作者,小蝇科技 AI Lab 研究员李思璇是第二作者,北京大学计算物理博士生黎颖是第三作者,美国马萨诸塞大学阿默斯特分校心理与脑科学系助理教授穆罕默德·阿塔利()担任通讯作者。

图 | 相关论文(来源:arXiv)

陈钰琪表示:“多元化的背景是他们得以完成这样跨学科的研究工作的重要因素之一。”

论文的前三位作者均为女性,在合作过程中大家的关系非常融洽。陈钰琪说:“我们相信女性的力量,也相信女性的细腻、耐心的特质会为研究增色。

比如,第三作者黎颖曾参加过举办的面向女生的 Ada Workshop,接触到了科技领域很多令人敬佩的女性榜样,这让她很受鼓舞。”

通过使用 CCR 方法,他们与哈佛大学团队合作,在上万本古籍中首次测量了集体主义、个人主义、忠诚、荣誉等十几个作为文化心理和道德基础的指标,在跨越数千年的中国历史上的历时演变及其空间分布,借此尝试揭示东西方文化心理差异的根源。相关文章也即将发布预印本。

另据悉,陈钰琪本硕博阶段均在北大历史学系接受最传统的人文学科训练。对她来说,跨界研究 AI 模型原本是难以想象的事情。

博士阶段,因研究面临浩如烟海的考古材料,她开始寻找大规模分析的方法,由此接触到量化研究和数字人文领域,新世界的大门开始对她打开。

起初她也曾有过较为漫长的艰难探索阶段,从最基础的线性代数开始补习数学,通过 Coursera 学习编程,从参与数据标注到独立设计数据库,从调用模型到训练模型,种种曲折,不一而足。

“期间受到了很多人的帮助,也非常感激我的博士导师在对待我的‘不务正业’时的开放胸怀。到现在,我已经在 GitHub 上开发了包括 OCR 文字识别、异体字转换、历史地理编码器等多个面向人文学者的开源项目。”她说。

一路走来,计算机和相关领域的开源精神使她受益匪浅,跨学科研究的经历则让她深信:古老的学科也可以拥抱崭新的技术,新的技术属于所有人。

参考资料:

1.https://arxiv.org/abs/2403.00509

排版:希幔

01/

02/

03/

04/

05/

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期...   蜻蜓订购APP以"投资平台"名义对外宣传,主打贵金属期货(订购)交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗...   近期,有投资者反映,“悟空订购APP”等平台以白银、贵金属订购为名,宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局,平...   “小赢淘金”之流,最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗...   警惕!八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易!  ...
智易购APP贵金属订购交易骗局...   很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传,很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易...   易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号,实则通过不合规的交...
大浪淘金APP白银订购亏损被骗...   大浪淘金APP最隐蔽的套路,在于其完全封闭的内盘交易系统。表面上,它宣称与国际贵金属市场接轨;实...
一品好购APP上订购白银出现亏...   一品好购APP原名“一品订购”,运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗...   九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告,用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规...   当前,市面上大量所谓的“现货商城订购”交易软件,早已偏离了正常的实物商品买卖,演变为高杠杆、高手...