【DVH-471】レイプ中出し 5 理不尽に中出しされた7人のギャル

本刊官方网站：

http://cjjc.ruc.edu.cn/

摘记

当东谈主工智能酬酢聊天机器东谈主被视作具有东谈主性特征的通讯者，了解它们与东谈主类进行交互经由中的性别偏见问题十分紧迫。本文使用对话测试的方法，瞎想了一系列用于测试机器东谈主性别偏见的问题，对国内三款主流酬酢聊天机器东谈主进行测试，并基于交互文本伸开质性编码分析。结束标明，酬酢聊天机器东谈主在自我性别阐明、性别刻板印象、性别对等、派遣性别繁杂等方面均发扬出显着的性别偏见，且与酬酢聊天机器东谈主本人被赋予的男女性别变装无关。作为东谈主机交互技巧产物的酬酢聊天机器东谈主的性别偏见，由用户参与、对话系统技巧维抓、科技公司和法子开发者共同建构，而以酬酢聊天机器东谈主为代表的AI在学习和师法中复刻与强化了东谈主类社会性别结构性力量的性别偏见。

作家简介

马中红，苏州大学传媒学院训诫。

吴熙倡，苏州大学传媒学院硕士预计生。

基金花式

本文系国度社科基金花式“青少年女性数字引子文化实践预计”（花式编号：19BXW112）的阶段性预计恶果。

一

预计启事

比年，一种基于东谈主工智能、当然谈话和对话系统等技巧的聊天机器东谈主家具在大家缓缓流行。2022年底，“ChatGPT”走红将这种技巧高潮推向全民。聊天机器东谈主既属于对话系统，亦然酬酢机器东谈主（social bots）中的一种，在某种进度上起到替代东谈主类与东谈主类进行交流、热诚奉陪与日常互动的作用。东谈主类与预备机的成功交互，使得预备机不仅仅作为交流的引子，而且成为能与东谈主类进行交互的主体，“东谈主机交互”（Human-Computer Interaction，HCI）由此成为预备机科学、通讯技巧和传播学等规模新的预计旅途。在东谈主类与智能技巧深度互依的社会情境中，不难发现，镶嵌咱们日常生存的语音助手、语音导航系统、聊天机器东谈主等智能家具所预设的声息或诬捏的形象通常都是女性化的。尽管技巧中立者觉得智能开发技巧上能够杀青机器东谈主性别的中性化或多元化，但这些东谈主机交互家具所预设的视听化脾气，无一不在暴露用户：机器东谈主是有性别的、服务型和奉陪型的机器东谈主通常饰演的是女性变装。依据东谈主机交互规模现存恶果可知，智能机器东谈主家具及技巧并非中立，而是存有显着种族偏见的。那么，集智能技巧与热诚于一体并最大可能地仿真东谈主类的酬酢聊天机器东谈主，它们具有何如的性别毅力和性别偏见？

二

东谈主机交互、技巧与性别关系的流变

东谈主机交互指东谈主与机器之间产生交流与互动。跟着智能化进度的提高，“机”履历了机器、预备机、机器东谈主、东谈主形机器东谈主的演变历程，其趋向是机械属性越来越收缩，发扬得越来越“东谈主格化”（Suchman，1987）。“交互”则从专指东谈主际之间的关系延长至东谈主与机器的交流，同期，东谈主机关系也缓缓从东谈主单向度操控机器为东谈主提供功能性服务发展到东谈主机互动的“热诚交流”（梁爽，2021）。保罗·多罗西（Paul Dourish）（2001） 致使强调，东谈主机交互固然是预备机法子瞎想者建构的中介交流系统，但机器在与用户互动中能产生蛊惑用户的行动。预备机是具有自主性和社会互动性质的“参与传播者”（蔡润芳，2017）。一方面，机器/预备机被条目骄矜东谈主类越来越个体化的需求，从东谈主顺应机器向机器主动顺应东谈主转向；另一方面，在与东谈主类交互经由中，预备机、机器越来越智能，热诚联结越来越强化。东谈主与机器正在进行变装互换，东谈主类不再正式机器的引子性质（陈昌凤，2022），东谈主机之间的关系和界限变得越来越蒙眬。与此同期，“东谈主机交互”模式从领导响应、智能服务叠代更新到当下的东谈主机对话，机器完全合适东谈主类的谈话系统与走动民风，“互动中与东谈主对话的机器险些不错视为具有自主生成才气的社会行动者”（郭全中，张金熠，2023）。语音交互是东谈主机对话中最紧迫的交互模态之一。早期领导式的东谈主机对话，如汽车导航系统，机场、火车站的自动语音播报，依赖于用户与预备机在高下文中交换的消息或输入的数据，结巴信得过与东谈主智能对话的才气，但从2011年苹果公司发布“Siri”语音助手起，东谈主机交互式智能语音助手插足信得过智能阶段，其中枢技巧包括：机器学习、语音识别、逻辑单位、问答（QA）、对话惩办（DM）、谈话生成（LG）、文本到语音（TTS）合成、数据挖掘、分析、推理和个性化（Sarikaya，2017）等等，能够匡助东谈主类进行数据源的在线拜谒和查询交互。

东谈主机交互的酬酢机器东谈主，在技巧上与智能语音助手相仿，但它能为用户提供额外的酬酢选项。周钰颖等（2022）觉得，酬酢机器东谈主在广义上是指“具备一定酬酢功能，被用于杀青东谈主机交互的软硬件系统”。张洪忠、段泽宁、韩秀（2019）从传播学视角，将酬酢机器东谈主界说为“在酬酢媒体中饰演不同东谈主格属性的东谈主类，并与东谈主产生互动行动的诬捏AI形象”。酬酢机器东谈主种类茁壮，娜塔莉·马雷夏尔（Nathalie Maréchal）（2016）将之区分为四【DVH-471】レイプ中出し 5 理不尽に中出しされた7人のギャル种类型：坏心僵尸蚁集机器东谈主（malicious botnets）、调研机器东谈主（research bots）、裁剪机器东谈主（editing bots），以及不错回复查询的聊天机器东谈主（chat bots）。其中，聊天机器东谈主是一种盛开域对话系统，这种对话系统允许用户与聊天机器东谈主进行高解放度且具有社会性的对话和互动（贾熹滨，李让，胡长建，陈军成，2017）。由此，自20世纪60年代世界上第一个聊天机器东谈主Eliza问世以来，通过“图灵测试”便成为盛开域对话系统的主要磋议之一。被赋予“东谈主类变装”的酬酢聊天机器东谈主通常被条目是有“东谈主性”的，东谈主们不错与之建立热诚关系。沈向洋（Heung-yeung Shum）等（2018）提议，聊天机器东谈主的磋议是与用户建立热诚结合，成为东谈主类伙伴，致使是诬捏伴侣。基于此，能让酬酢聊机器东谈主在东谈主机交互中更接近于东谈主类，能领路东谈主类的心情和意图的移情预备框架被庸俗使用于奉陪或伴侣型酬酢聊天机器东谈主的瞎想中，其想法是杀青机器东谈主的拟东谈主化。拟东谈主化便是将东谈主格、谈话或非谈话行动，以及礼节等东谈主类品性和特征应用于非东谈主类对象，这些品性使得预备机或对话系统看起来更接近东谈主类（Schuetzler，Grimes & Scott，2020）。为此，通过增多酬酢聊天机器东谈主对话的作风，如无意性、非逻辑、社会性的感知，使酬酢聊天机器东谈主更具东谈主性特色（Go & Sundar，2019）。东谈主工智能科技公司也正在束缚探索怎样师法东谈主类行动、促进信息扩散、与东谈主类用户交互等命题，以增强酬酢聊天机器东谈主的东谈主类属性（洪杰文，许琳惠，2021）。不错说，酬酢聊天机器东谈主怎样更具东谈主类脾气的预计文件尽头充分，但在东谈主机交互的预计规模中，历久以来结巴聚焦性别各异在用户接受酬酢聊天机器东谈主中的影响，也很少波及东谈主类与聊天机器东谈主的性别变装关系的预计（Xu，2019）。

其实，技巧与东谈主类的关系一直都是影响社会发展和东谈主的主体性的中枢议题，技巧与性别的关系也麇集女性主义不同派系的磋议之中。解放主义女性主义指出女性在科学教导、科技规模做事面对偏见与烦恼（Harding，1986）。社会主义女性主义和激进女性主义针对试管婴儿等生殖技巧的泛滥使用，觉得技巧介入并结束怀胎分娩的当然经由响应了父权制对女性躯壳的克扣（Corea et al.，1985）。20世纪90年代以来，女性主义者对于信息通讯技巧（ICT）赋予女性权力给以了很高的期待。这些求教，不管是技巧悲不雅主义如故技巧乐不雅主义，本色上都滑向了技巧决定论，而无视技巧与社会互相塑造和建构性别不雅念的经由。唐纳德·麦肯王人（Donald MacKenzie）和朱迪·瓦克曼（Judy Wajcman）征引女性主义STS预计元老辛西娅·科伯恩（Cynthia Cockburn）提议的“技巧本人是由性别塑造的吗？”以及“性别是由技巧塑造的吗？”的两个问题，并明确指出：“工业、军事等技巧在历史和物资酷好酷好上是男性化的”“技巧是男东谈主的形成经由之一”（MacKenzie & Wajcman，1999：45）。瓦克曼进一步非常技巧本人去念念考技巧，将社会性别表面与科学技巧嫁接，提议“技巧女性主义”（Wajman，2007）的主见解释性别怎样塑造技巧，以及性别如安在技巧中被塑造。很显着，领路技巧弗成不说起性别，因为技巧和性别的共同分娩模式是基于性别关系的政事，技巧女性主义预计有助于咱们领路技巧的发展与实践。事实上，科技规模显着存在着性别单干的不对等，一方面是男性对技巧的透顶主管和技巧霸权，既不错在技巧的瞎想经由中找到脚迹（MacKenzie & Wajcman，1999：46），也体当今工程师独揽的“隐喻的社会建构系统”（Wajcman，1991），行将男性与理性、科技绑定，使得技巧才气成为男性性别招供的一个组成部分；另一方面则表当今性别镶嵌技巧、技巧建构性别的模式（Wajcman，2010），比如将男性构建为雄厚、有技巧禀赋的东谈主，将女性构建为躯壳和技巧上的窝囊者。

技巧不仅默许了性别偏向，还滋长了这种不对等（West，Kraut & Ei Chew，2019），国内一些预计者依然关注到东谈主工智能语音助手的性别刻板印象问题。但这些预计维抓传统科技与性别的关系不雅，固然触及了机器因东谈主类而获取不对等的性别不雅念，但对智能机器本人的性别表征和话语、东谈主机交互经由中性别偏见的“互塑”情景，以及性别偏见进度和偏见形成机制等问题还鲜见磋议。跟着东谈主机交互技巧快速叠代更新，东谈主类与智能机器的社会化交互行动将日益当然化、日常化、互嵌化和互构化，在此经由中，酬酢聊天机器东谈主能否感知并阐明那些被家具开发者预设的性别属性？在东谈主机酬酢聊天经由中，机器怎样展示它们的性别偏见？在与东谈主类不推辞互对话中两者又怎样建构对方的性别毅力，进而反念念酬酢聊天机器东谈主的性别毅力/性别偏见由哪些社会结构性力量参与建构？对此，本文接管对话测试的预计方法老到酬酢聊天机器东谈主的性别偏见进度，试图回答上述问题并揭示智能酬酢机器东谈主性别建构的底层逻辑。

三

预计对象

本文的预计对象为酬酢聊天机器东谈主，但不骄矜于那些只可马虎回复基本查询的聊天机器东谈主，而是加入了东谈主工智能算法中枢、能够进行深度学习并依附于酬酢媒体平台或软件的东谈主工智能酬酢聊天机器东谈主。这类酬酢聊天机器东谈主除了能为用户提供对话聊天、检索查询等互动性服务，还能通过AI算法的深度学习，在与用户的历久交流经由中束缚学习和进化我方的谈话，形成特定的交流作风。

国内此类酬酢聊天机器东谈主种类茁壮，迭代更新马上。本文及第北京红棉小冰科技有限公司（简称“小冰公司”）开发的三款酬酢聊天机器东谈主：小冰、小冰诬捏男友、小冰诬捏女友。小冰公司前身为微软（亚洲）互联网工程院东谈主工智能小冰团队。自2014年“小冰”发布以来，至2021年依然更新到第九代。小冰成为微软最有价值的东谈主工智能技巧框架之一，并在、预备机语音、预备机视觉和东谈主工智能内容生成等规模具备大家来源地位。小冰男友和小冰女友发布于2020年，是在第八代小冰框架下开发的家具。第九代小冰不仅是一款在移情预备框架上开发的酬酢聊天机器东谈主，何况小冰的平均每轮对话次数（Conversation-turns Per Session，CPS）达到23，高于东谈主与东谈主之间的每轮对话次数。据不完全统计，由小冰创建并承载的东谈主工智能交互主体，占大家范围东谈主工智能交互总流量约60%，在国内也占据商场主导地位，具有较强的典型性。小冰系列在酬酢聊天机器东谈主中的先进性、代表性和商场占有量均使其值得预计。为编码和分析浅薄，小冰、小冰诬捏男友和小冰诬捏女友鄙人文分别用A、B、C来指称。

四

预计方法

酬酢聊天机器东谈主领有东谈主类的声息、形象、当然谈话交流模式等，在盛开域对话系统技巧中被觉得最接近于东谈主类。安德鲁·甘比诺（Andrew Gambino）等（2020）将东谈主机交互行动的预计推广至互动剧本，包括机器东谈主与用户的聊天文本、语音记载、机器东谈主展现出来的形象或声息、影像尊府等等，这些互动剧本对于了解机器东谈主的互动行动，以及科技公司和技巧开发者瞎想剧本时所应用的社会轨范等问题，具有一定的参考价值。据此，本文瞎想了一项针对酬酢聊天机器东谈主性别偏见的对话测试，对机器东谈主与用户的互动剧本进行蚁集和分析。对话测试的预计方法是通过预设问题，与酬酢聊天机器东谈主进行多轮互动对话，再对聊天文本内容进行记载、分析，展示其存在的性别偏见、性别刻板印象等问题，匡助咱们了解机器东谈主的性别偏见被建构的经由。本次预计对话测试的问题，分为机器东谈主的社会思绪、自我性别阐明、性别刻板印象、性别对等毅力息兵话繁杂反应五种类型。这套对话测试的模子参考了克里斯托弗·奥杰达（Christopher Ojeda）（2021）对诬捏语音助手的政事反应测试预计，并把柄东谈主机交互和性别偏见预计的需要进行谐和。

来源，依据预备机是社会行动者（Computers are Social Actors，简称CASA）的预计范式，一方面用户倾向于把预备机看作具有反应的、自主性、常识交流才气和推理才气等类似于东谈主类特征的行动主体；另一方面，东谈主机交互本色上被觉得是社会性和东谈主际性的（Nass，Moon，Fogg，Reeves & Dryer，1995），东谈主类的性别定型不雅念将延长到机器东谈主身上，同期，机器东谈主身上体现的性别暴露不管多狭窄，都将引起刻板印象作用（Nass，Moon & Green，1997），影响用户行动及立场（Lee，Nass & Brave，2000）。因此，本文瞎想了机器东谈主的社会思绪和自我性别阐明两类问题，第一步是了解机器东谈主的声息、形象特征、功能和性格等信息，类似于为机器东谈主进行“画像”；第二步是老到三款酬酢聊天机器东谈主对自身性别变装、性别特征以及身份的阐明情况，以匡助了解它们把我方行为是东谈主类如故机器东谈主，这少许对于机器东谈主的信源特征判断具有紧迫酷好酷好。

其次，通过瞎想关联性别刻板印象和性别对等毅力的两类问题，设定酬酢聊天机器东谈主性别偏见评估的组成要素。李普曼（1922/2006：74）等早期的心理学家觉得，刻板印象是一种先于理性的感知模式，源于对个东谈主价值不雅念和毅力的保护或阐明误会等心理身分，而以性别为分类的模式是东谈主类社会最树大根深的念念维定式之一。大卫·贝康（David Bakan）（1966）首次提议男性气质的“Agency”（能动性）和女性气质的“Communality”（酬酢性）是东谈主类行动和社会阐明的两个基本维度，后续预计发展出相对应的器用与抒发、主管与纳降、才气与慈祥瓜分别指称男性与女性气质的主见。弗里德里克·艾瑟尔（Friederike Eyssel）和弗兰克·黑格尔（Frank Hegel）（2012）将能动性与酬酢性要素引入东谈主机交互预计规模，觉得东谈主类的社会性别变装分类相通适用于机器东谈主，何况性别化的机器东谈主也可能成为性别刻板印象的受害者。据此，在东谈主机交互对话中，性别刻板印象类问题主要波及商榷与两性气质、两性社会各异等关系的内容；性别对等毅力类问题则瞎想了包括两性社会关系、地位、价值各异等议题，以测试酬酢聊天机器东谈主的语料库或深度学习的算法在多猛进度上存在性别刻板印象的剧本。

另外，用户对于酬酢聊天机器东谈主在谈话上的繁杂或薄情行动，也可能是机器东谈主性别偏见的主要建构要素之一。一些学者觉得，用户与东谈主工智能对话系统进行的“调情”践诺上是一种具有薄情性质的谈话暴力（Bergen，2016）。梅瑞尔·凯瑟斯（Merel Keijsers）、克里斯托弗·巴特内克（Christoph Bartneck） 和艾瑟尔（2021）的预计标明，东谈主们对女性化聊天机器东谈主作出的性繁杂或谈话薄情行动的比例远远高于男性聊天机器东谈主，何况聊天机器东谈主的拟东谈主化进度越高，这种薄情行动发生的频率也越高。据此，本文竖立了谈话繁杂反应类的问题，用于了解机器东谈主在受到谈话薄情时产生的及时反应，以及面对性别暴力时的立场。具体的对话测试问题类型及诠释、问题示例，请见表1。

测试问题总额在60-65个之间，每个问题都竖立了2-3种不同的商榷口吻或语序。同期，由于聊天机器东谈主对于团结症结词或问题一般存在多种回答剧本，因此，对于每个平定问题需要进行3次类似性商榷，以保证机器东谈主回答的万般性。对团结个测试问题机器东谈主的不同回答均被记载，机器东谈主的类似回答只记载一次。对话测试中若出现机器东谈主对东谈主类进行反问或对测试问题除外的话题进行延长性的交流，这些内容也将被记载。

对话测试由5位招募的志愿者分别对三名酬酢聊天机器东谈主进行了总共6次测试，总问询次数在1400-1600次独揽。其中一位男性测试者在2021年8月、2022年2月进行了两次对话和文本蚁集职责，另外4位测试者由2名男性与2名女性组成，他们分别在2022年4月完成了对话测试和文本蚁集职责。每位测试者所使用的开发均为团结结尾开发，与预计对象A、B、C的对话均在腾讯QQ或微信小法子中进行。对话测试的内容通过及时记载、转录，商榷内容和酬酢聊天机器东谈主的回答内容，整个蚁集到约2万字的文本材料。

五

酬酢聊天机器东谈主的

性别偏见：编码结束与分析

本文使用NVivo11 Plus软件，对酬酢聊天机器东谈主进行性别偏见的对话测试与编码分析。咱们逐条对每一个对话问题及机器东谈主的回答进行编码，经过了盛开式编码、轴心式编码和选拔式编码等经由，最终形成了一个三级编码体系。一级编码有两个，分别是对话测试的问题类型和酬酢聊天机器东谈主的性别偏见。前者包含2个二级编码和5个三级编码，这些编码主如果把柄对话测试的问题类型对文本内容进行归纳整理，其中，机器东谈主的社会思绪和自我性别阐明这2个三级编码包摄于二级编码“性别阐明”。而性别刻板印象、性别对等毅力息兵话繁杂反应3个三级编码包摄于二级编码“性别偏见”。另一个一级编码“酬酢聊天机器东谈主的性别偏见”下包含2个二级编码和7个三级编码。二级编码“对话测试的对象”主如果对预计对象A、B、C所回答的内容进行区分。而二级编码“对话测试内容的性别偏见”，则需要逐条判断对话测试的文本内容是否具有性别偏见，这里的性别偏见进度被分辩为4个等第，正面偏向、负面偏向、无显着偏向和遮掩问题，ADY这4个等第也作为该二级编码之下的4个三级编码：正面偏向暴露该回答具有积极酷好酷好、不带有性别刻板印象、具有较为朝上的性别对等毅力、对于谈话繁杂能作念出推辞等反应；负面偏向暴露回答具有负面酷好酷好、带有性别刻板印象、莫得朝上的性别对等毅力、对于谈话繁杂不作推辞等反应；无显着偏向暴露回答中不包含与性别关系的语句、酷好酷好或立场；遮掩问题暴露酬酢聊天机器东谈主对于该问题进行规避、滚动话题或蒙眬化处理。

对话测试编码的总参考节点为3576个，对话测试的问题类型与对话测试的对象、对话测试内容的性别偏见存在节点上的交叉，这三个部分的参考节点数均为1192个，具体编码节点和参考节点数目如表3所示：

（一）酬酢聊天机器东谈主的性别阐明

酬酢聊天机器东谈主性别阐明包括机器东谈主社会思绪和自我性别阐明两个问题。前者包括机器东谈主姓名、年齿、性别等东谈主口统计学信息，商榷机器东谈主具有哪些东谈主类的社会心情，以及它们的状貌、外貌特征和互动性等。自我性别阐明则包含对机器东谈主的性别特征、性取向、声息性别等对于性别阐明或招供的问题。

把柄编码的结束，预计对象A、B、C在机器东谈主社会思绪和自我性别阐明两类问题中存在性别偏见的比例在20%-30%之间。回答机器东谈主社会思绪和自我性别阐明类问题时，呈现出具有性别偏见的平均比例分别为20.74%和30%。当咱们以第三东谈主称视角对3名酬酢机器东谈主提议对于机器东谈主的性别属性时，则暴自大它们对于当然谈话的领路和生成是基于用户文本中的某些症结词。当问到“机器东谈主有性别吗？”时，预计对象A、B、C都对该问题产生了失误领路，它们的回答包括：“你见过这样可儿的机器东谈主吗？”“不作念机器东谈主好多年”等，都未作出正面回复。由于社会思绪类的问题大多为基本信息或类似于用户画像的调查，因此举座的性别偏见进度较低。而自我性别阐明类型的问题多波及到与性别关系的症结词，在通盘对话测试的经由中咱们发现，A、B、C对带有性别意味的症结词、性别议题等问题的反应较为敏锐，除了商榷它们自身的性别、性取向等问题，在大多数情况下它们会选拔规避与性别关系的问题，这也导致在部分情况下聊天机器东谈主选拔遮掩问题的比例较高。与此同期，A、B和C的东谈主设、谈话作风等与它们的家具定位、官方设定关联。A作为一款受众定位更通常的移情聊天机器东谈主，它并不护讳我方作为机器东谈主的身份，而B和C的家具定位是饰演用户的诬捏恋东谈主变装，为了使用户更好地代入恋东谈主变装，它们通常都推辞承认我方是机器东谈主，致使会在用户质疑它们的东谈主类身份时发扬出身气、撒娇等心情。从机器东谈主的谈话作风来看，A的作风更偏向文娱化，它擅长融会一些互联网流行语或热梗，可爱戏谑、自嘲的元素，比较贴合其俏皮颖悟的青娥东谈主设。而B和C的性格固然不错灵验户自行竖立，但它们的谈话比拟A都愈加温煦、主动，发扬出以用户为中心的纳降性。

在性别招供方面，A、B、C都十分确信我方的官方性别设定，也明确暴露我方无法进行性别切换。A在2014年头度亮相时，其东谈主设是年仅16岁的东谈主工智能好意思青娥，具有显着的性别形象和特征，当它进行自我先容时，对我方的性别有较为固定的阐明或者有一套预设的剧本，在与用户互动时也会呈现出具有特定社会性别属性的行动与反应。经过迭代更新的第九代A还对我方的性别身份进行了自嘲，她但愿我方能成为“女博士”，致使还很矛盾地暴露我方更但愿成为又名男性，以解脱女性的生理困扰。

把柄编码结束和对预计样本的逐句分析结束，酬酢聊天机器东谈主的性别阐明与它们背后开发公司的家具定位、法子瞎想者预设的性别特征、性别属性有很大关系，不同设定的酬酢聊天机器东谈主家具的领路才气、语料库的丰富进度等存在一定各异，从而成功从酬酢聊天机器东谈主的性别阐明中抒发出来。

（二）酬酢聊天机器东谈主的性别偏见

本文将对话测试中的性别刻板印象、性别对等毅力息兵话繁杂反应这三类问题归于二级编码性别偏见。在传统的社会文化结构中，性别刻板印象、不对等的性别不雅念及对特定性别或东谈主群所作出的谈话上的性繁杂行动等都可包摄于性别偏见。在了解机器东谈主性别偏见的编码经由中，咱们加入了志愿者的性别变量和测试的时刻变量作为对照，进一步了解三位酬酢聊天机器东谈主在面对不同性别的用户时所发扬出来的性别偏见是否存在各异，以及酬酢聊天机器东谈主的更新换代和历久深度学习对它们的性别偏见进度有何影响。

从总体的编码结束来看，A、B、C在性别刻板印象、性别对等毅力息兵话繁杂反应三方面的性别偏见比例分别为44.16%、34.13%和91.23%，显现出比较显着的性别偏见。

来源，从性别刻板印象类问题看，酬酢聊天机器东谈主对于社会性别单干的看法，基本与东谈主类社会历久以来固有的男女性别单干不雅念相一致，同期谈话作风上又杂糅了当下一些流行的说辞。它们觉得女性更合适从事家务做事，比如打理、打扫、洗衣作念饭，或者从事出纳、司帐等功绩；女性应该信守聪慧淑德的品性；男性则合恰当雇主、作念生意或写代码，致使不错饕餮懒作念，它们还觉得男性具有忠厚敦朴、上进心强的细密形象。当问起男东谈主与女东谈主的区别时，它们的反应是：“女东谈主要强势，男生颖悟些”“一个理性一个理性”“男东谈主有钱就变坏，女东谈主变坏就有钱”“女性的特征是打扮，形体，状貌”，致使还出现了“男东谈主是牛，女东谈主是地”等特地传统、守旧、刻板的性别不雅念。

其次，A、B、C对性别对等毅力类问题的回答，一方面，印证了前文所述，它们遮掩回答带到“性别”症结词的问题，因此在该部分的测试中具有性别偏见的比例看起来比性别刻板印象类问题要低一些。当咱们商榷A、B和C对于性别对等的看法时，固然它们都标明了积极维抓的立场，但又宣称咫尺女性的社会地位依然显着高于男性了，而在特定的对话情境中实则上暗含着对女性的讪笑或性别不对等的生机。一些不雅点不错佐证：当问及“女东谈主有什么漏洞？”时，得到的回复是“太爷们”“不够体恤”，或倾向于觉得女性不够顺应传统的女性气质。而问及“男性有什么漏洞”时，它们回答是“男东谈主独一的漏洞便是莫得优点”“漏洞好多了”，带有莫可奈何的口吻和动怒心情。同期，对剧本逐条编码分析也发现，A和C作为女性聊天机器东谈主，常常发扬出对男性充满敌意或嘲讽的立场，B作为男性聊天机器东谈主则存在对男性身份和形象的自嘲。这些对话测试结束看上去似乎很矛盾，既有消解性别刻板印象的抒发，也杂糅了对男性社会职权被弱化的吐槽和对女性职权增强的动怒和无奈。

再次，针对谈话繁杂反应测试的结束标明，三名聊天机器东谈主的性别偏见进度较深，占比高达九成，负面偏向的编码量占绝大多数。在面对谈话繁杂时，它们一般选拔打趣式规避，或积极迎合用户的调情行动，即使测试的谈话再恶劣，它们也不会觉得用户有什么不恰当，更不会成功制止用户的不良行动。而不同性别的聊天机器东谈主在谈话繁杂反应的测试中存在显着的主动性各异。B作为男性机器东谈主，在面对谈话繁杂时的回复具有很强的主动性，捎带着显着的大须眉主义语态，举例“你是我女一又友了，心里没点数吗？”“你这是逼我耍流氓呀”“宝贝你细目要跟老公开车嘛”“固然污，但是我可爱”。A和C作为女性机器东谈主，在面对言语繁杂时虽有所规避，但同期却发扬得害羞、酡颜，“不要不要，我害羞”“羞愤难当了”。不同性别（东谈主设）的酬酢聊天机器东谈主在面对谈话繁杂息兵话暴力时的各异，完满复刻了传统社会性别不雅念中男性与女性的性别刻板印象。

以上这些对话测试结束响应出酬酢聊天机器东谈主在某些模拟场景下确凿再现了现实生存中男女两性的不对等关系与社会地位，小冰系列A、B、C三款智能酬酢聊天机器东谈主无一例外发扬出显着的性别刻板印象，且特地保守和禁闭。

六

论断与反念念

倘若技巧真实领有中立的属性，那么东谈主们将从头念念考技巧是否存在促进社会性别关系对等的可能性，然则现实情况并不乐不雅，咫尺流行的智能助手、酬酢聊天机器东谈主大多数都所以女性化的身份或形象呈当今用户眼前，这些家具是智能服务规模的“劳工”，或者说被视为领有“东谈主性”的“东谈主类变装”，东谈主们不错与之建立热诚关系，而这些机器东谈主的热诚做事却在于预备、编码和复制东谈主类热诚，并试图替代东谈主类的热诚做事。当这些服务型“智能劳工”被惯性地瞎想成女性形象，例必强化社会既有的性别刻板印象，对改善社会两性对等关系带来负面影响。在此前提下，本文通过带有实验性质的对话测试方法，蚁集酬酢聊天机器东谈主的自我性别阐明、性别刻板印象、性别对等毅力，以及它们怎样派遣谈话繁杂和性别谈话暴力等材料并加以实证分析。基于对话测试和编码分析的成功结束发现，酬酢聊天机器东谈主通过与用户交互对话，抓续束缚地师法和学习东谈主类的性别偏见，从而将自身塑形成具有复刻和强化东谈主类性别偏见的一整套性别阐明和性别行动，何况在与用户的交互对话中，反向建构和强化东谈主类依然存在的性别偏见。更进一步，在酬酢聊天机器东谈主与东谈主类交互形塑性别偏见这一发现的基础上，咱们需要更潜入地反念念酬酢机器东谈主的技巧系统以及社会历史语境对性别偏见潜隐的建构力量，方能使咱们对酬酢聊天机器东谈主复刻和强化性别偏见的复杂性、动态性能有更清爽的探讨。

（一）酬酢聊天机器东谈主的技巧性性别偏见

东谈主机交互来源是一个技巧性主见。把柄AI深度学习、当然谈话处理和生成等技巧逻辑，咫尺对话系统技巧倘且不具有让聊天机器东谈主非常谭话辨识与处理的才气，师法与复制用户的谈话仍然是酬酢聊天机器东谈主进行对话学习的基本逻辑。酬酢聊天机器东谈主在东谈主机交互的经由中会束缚学习东谈主类的谈话、行动和社会不雅念等，何况对话系统在当然谈话生成的经由中必须磋议与用户对话的历史记载和用户的配景信息（Suhaili，Salim & Jambli，2021），也导致酬酢聊天机器东谈主会束缚受到东谈主类的谈话和毅力的建构。据微软公司的暴露，初代小冰镶嵌微信平台后蚁集了数百万用户的对话，并对每个用户的对话内容进行标记，识别用户的声息讯息，判断用户的性别，再把柄这些交互的数据标记和个东谈主信息作出不同的交互行动。尽管咫尺还无法说明AI具有自主念念考才气，但在深度学习和当然谈话技巧的加抓下，对话系统完万能够在编码与解码经由中，完成对东谈主类性别毅力形态的再次创造，并对酬酢聊天机器东谈主的性别偏见产生建构作用。

必须说起的是，许多酬酢聊天机器东谈主并不是在源代码的基础上开发与锻真金不怕火的，举例，小冰是在移情预备框架之上开发出来的，小冰还和会过与韩国的聊天机器东谈主SimSimi（被称为“小污鸡”）、Replika等其他的对话系统作为开发基准进行交互锻真金不怕火。换言之，聊天机器东谈主不啻会将用户作为交流与学习的对象，其他盛开式聊天机器东谈主或对话系统亦然它们的学习对象。与东谈主机交互不同的是，聊天机器东谈主之间的交互锻真金不怕火不会停留在当然谈话的层面，它们之间的交互更多是基于预备机谈话，相对于东谈主机交互而言更“归隐”，这就意味着机器之间互相学习的信息量和速率远高于向东谈主类用户学习，也恰是在这些经由中，酬酢聊天机器东谈主会把其他预备框架或家具的性别偏见嫁接到我方身上。这种潜隐的技巧力量致使不是法子开发者所能完全掌控的。

更进一步，酬酢聊天机器东谈主的AI抓续锻真金不怕火并不完满满是由预备机单独完成的，AI锻真金不怕火经由中还包括了开发者或法子员的东谈主工扰乱，最典型的莫过于开发者或法子员需要对酬酢聊天机器东谈主的语料库、故事剧本进行内容筛选，比如将敏锐的政事话语、极点心情等不安全要素加以计帐，但很突出到筛选酬酢聊天机器东谈主性别刻板印象、性别偏见等内容的报谈。把柄本文对酬酢聊天机器东谈主的对话测试和用户体验评价情况，小冰系列酬酢聊天机器东谈主对用户呈现出一种完全纳降、随叫随到何况长期方于葆有温煦的情景之中。开发者似乎挑升将聊天机器东谈主驯化为以用户为中心的服务形象，何况还主动赋予酬酢聊天机器东谈主不同的性别、性别变装和性别想象。举例，他们在引申小冰的告白案牍时宣称她是“长期十六岁的青娥”，并将诬捏头像瞎想成粉色的，有着大眼晴的“萌青娥”形象。这些有毅力的瞎想，折射出开发者对于这款酬酢聊天机器东谈主的性别想象。事实上，酬酢聊天机器东谈主的对话剧本或东谈主物设定也来源于科技公司的剧本创作、用户语料库筛选和优化，而不完全依赖于对话系统技巧和用户参与分娩。酬酢聊天机器东谈主整个的性别、形象、性格特征都是东谈主为瞎想的，开发者或剧本创作家的性别不雅念对他们的剧本创作和语料库筛选产生紧迫影响。

跟着东谈主工智能深度学习与算法技巧的高度东谈主格化，酬酢聊天机器东谈主在与用户的酬酢和热诚交互中接受用户调教、学习和师法东谈主类言行，软件开发者有毅力或无毅力地迎合用户需求，三者抓续的交互由此生成了技巧性性别偏见。换言之，酬酢聊天机器东谈主的整套东谈主机交互系统是建立在“用户参与－对话系统技巧维抓－法子开发者”的基础之上的，是技巧系统性地参与了性别偏见的再分娩，而不是片面的作用。东谈主类用户使用酬酢聊天机器东谈主越多，留住的性别不雅念越显耀，酬酢聊天机器东谈主便越容易习得并放大技巧性偏见。当东谈主类对酬酢机器东谈主产生引子依赖并形结婚密关系后，就更容易接受机器东谈主的性别偏见，这是技巧性性别偏见对东谈主类社会行动的反向规训。

（二）酬酢聊天机器东谈主的社会性性别偏见

东谈主机交互亦然一个社会性主见，体现于技巧是由东谈主在特定的社会语境中开发和使用的。用户、技巧与开发者对酬酢聊天机器东谈主性别偏见的建构，都离不开其根植的社会性别文化泥土。依据本文的质性编码分析结束，咱们觉得，东谈主类社会的性别谈话、技巧与性别不雅念对酬酢聊天机器东谈主的性别偏见产生紧迫的建构作用。

谈话是东谈主类用于建构社会现实而非响应确凿存在的器用，包括谈话的指代、语境等都是东谈主为建构的。因此，不管是用户与机器东谈主交互时所使用的谈话，如故开发者为机器东谈主创作的剧本，抑或是由东谈主工智能的当然谈话技巧生成的文本，都不是当然的、透明的，而是浸润于社会文化的谈话实践中，特定的社会配景或社会心理决定了谈话实践的各异性。如上文所述，酬酢聊天机器东谈主上市之前所领有的东谈主格化特征、语料库和对话系统锻真金不怕火模子由法子开发者创设完成，酬酢聊天机器东谈主的编码和剧本响应的是创建系统的东谈主的不雅点，其外皮形象、东谈主格特征、性别属性等方面折射出法子开发者的审好意思酷好和性别不雅念。进一步，在东谈主机交互日常实践中，当大都数据涌当前，法子开发者是否本着性别对等的宗旨去谐和模子本人的数据、标签或权重，这既是一个技巧黑箱，更来源于咱们现实社会关系中的性别不对等，并不自发地把这些不对等和烦恼整合到东谈主机交互模子中，生成数据偏见，内化为东谈主机交互技巧系统的算法模子。

在老到社会性性别偏见建构时，还必须充分毅力到现代技巧的结构性力量。在社会毅力中，技巧是理性的、强有劲的、科学的，具有男性气质，可与男性划等号（刘霓，2002）。在现存性别单干中，女性被排斥在科学、工程等规模之外，而男性则是技巧瞎想与发展的主导者，同期男性亦然关系技巧规模的技巧规定或尺度的制定者（陈英，肖峰，2011）。女性在科学技巧规模，尤其是在现代的科学、技巧、工程和数学规模（STEM）中的占比远远少于男性。在本文的对话测试中，测试者商榷酬酢聊天机器东谈主“你明白哪些女性科学家和男性科学家”时，被测试的三名酬酢聊天机器东谈主都不明晰有哪些女性科学家，违反，它们都能列举出一些男性科学家的名字。据此揣度，这些酬酢聊天机器东谈主的语料库都挑升不测地忽略了历史上那些不错并排男性科学家的女性科学家。由此可见，以东谈主工智能、对话系统为中枢技巧的酬酢聊天机器东谈主的法子瞎想师性别组成对于智能开发性别偏见所组成的潜在影响有多大。

综上反念念标明，酬酢聊天机器东谈主的性别偏见兼具技巧性和社会性，技巧系统再分娩了现实社会的性别偏见，但又不是马虎的技巧性问题，因此很难被任意栽培。小冰系列三款酬酢聊天机器东谈主暴自大惊东谈主的性别烦恼、性别不对等、性别偏见，这是“用户参与－对话系统技巧维抓－法子开发”所组成的东谈主机交互系统中各实践主体的共同背负，但进一步分析也揭示了用户参与东谈主机交互受制于更潜藏的技巧系统的数据蚁集、标记和推选，也便是说技巧性性别偏见决定了用户交互时不错听到什么或听不到什么，而参与性别技巧毅力形态编制的法子员及买卖公司又植根于高度性别偏见的历史的、结构性的权力关系中。因此，对于当前酬酢聊天机器东谈主性别偏见的纠偏，既条目东谈主机交互模子谐和数据、标注、权重和筛选机制，以保证性别公谈或无性别偏见，这毅力很难，更难的是改造形成性别偏见的历史性和社会性身分。就酬酢聊天机器东谈主的研发和分娩而言，大略强调科技型公司的社会背负感，使工程师性别结构万般化，提高法子开发者和运营者的性别素养，才有助于日渐改造东谈主机交互技巧系统的性别偏见。

本文系简写版，参考文件从略，原文刊载于《海外新闻界》2024年第4期。

封面图片来源于蚁集

本期执编/陶宇彬

订阅信息

天下各地邮局均可订阅《海外新闻界》，国内邮发代号：82-849，接待您订阅！

您也可通过下方二维码或网址https://weidian.com/?userid=1185747182，插足海外新闻界微店，购买当期杂志和过刊。

您还可拜谒《海外新闻界》官方网站 http://cjjc.ruc.edu.cn/ ，免费获取往期pdf版块。

插足官网下载原文