受在线约会的启发,人工智能领养婚介工具存在不足

admin 2023-12-05 13:51:36 浏览量:3
问题描述:
最佳经验

有些是孤儿,有些是从父母那里被抓走的。许多人年龄较大,有巨大的需求或残疾。大多数人都背负着被寄养家庭拖来拖去、与兄弟姐妹分离或遭受性虐待和身体虐待的创伤。

几十年来,儿童保护服务机构一直在为如何为这些弱势儿童和青少年找到持久的家而苦苦挣扎——这是一个巨大的挑战,社会工作者永远无法保证一个完美的家。

西娅·拉米雷斯(Thea Ramirez)带着她所吹捧的技术解决方案走进了这个泥潭——一种人工智能驱动的工具,最终可以预测哪些收养家庭将留在一起。拉米雷斯声称,这种算法是由一家在线约会服务公司的前研究人员设计的,可以促进美国各地成功的收养,并提高资金短缺的儿童福利机构的效率。

拉米雷斯在2021年4月的一段YouTube视频中说:“我们正在利用科学——而不仅仅是偏好——来建立一个能够预测长期成功的分数。”拉米雷斯在视频中谈到了她的雄心,即利用家庭匹配算法颠覆“美国儿童和家庭匹配方式的剧本”。

然而,美联社的一项调查发现,根据美联社通过州和地方机构的公共记录请求获得的家庭匹配自我报告数据,人工智能工具——市场上为数不多的采用算法之一——在使用它的州产生了有限的结果。

拉米雷斯还向政府官员夸大了专有算法的能力,因为她试图扩大其覆盖范围,即使社会工作者告诉美联社,该工具并不有用,经常导致他们不情愿的家庭。

根据美联社对数百页文件的审查,弗吉尼亚州和佐治亚州在试运行后放弃了该算法,指出它无法产生收养,尽管这两个州已经恢复了与拉米雷斯的非营利组织收养共享的业务。

田纳西州在推出该项目之前就取消了该项目,称尽管州政府官员花了两年多的时间试图建立该项目,但它与他们的内部系统并不兼容。佛罗里达州的社会工作者报告说,在家庭匹配项目上,他们的体验好坏参半,该项目的使用一直在扩大。

州政府官员告诉美联社,拉米雷斯担任首席执行官的组织拥有Family-Match收集的一些敏感数据。他们还指出,这家非营利组织对算法的工作原理几乎没有提供透明度。

美联社发现,这些经验为社会服务机构在没有充分把握技术局限性的情况下寻求部署预测分析提供了教训,特别是在试图解决诸如为法官描述为“最不适合收养的”儿童寻找家庭等持久的人类挑战时。

“永远不会有万无一失的方法来预测人类的行为,”俄克拉何马大学儿童福利数据专家邦尼·古德温(Bonni Goodwin)说。“没有什么比青春期更难以预测的了。”

拉米雷斯来自乔治亚州不伦瑞克,她所在的非营利组织也在那里。她拒绝提供有关该算法内部工作原理的细节,并拒绝了采访请求。她在电子邮件中说,这个工具是社会工作者的一个起点,并不能决定一个孩子是否会被收养。她还对儿童福利领袖对“家庭匹配”表现的描述提出了质疑。

拉米雷斯写道:“用户满意度调查和对我们代理终端用户的检查表明,Family-Match是一个有价值的工具,对积极使用它来支持他们招聘和匹配工作的用户很有帮助。”

受o启发在线约会

拉米雷斯曾是一名社会工作者,是乔治亚州一名牧师的妻子。根据她的公开声明、通讯和博客文章,她长期以来一直寻求通过促进收养来减少堕胎。

十多年前,她创办了一个网站,为孕妇和潜在的养父母牵线搭桥。她将其宣传为“唯一一个专门为危机怀孕中心建立联系的在线社区”,并承诺将10%的会员费捐赠给这些反堕胎咨询中心,这些中心的目的是说服妇女将怀孕分娩。拉米雷斯在一封电子邮件中说,Family-Match与这些中心没有联系。

接下来,她把注意力转向帮助那些没有家庭成员抚养的寄养儿童。联邦统计数据显示,2021年全国被收养的5万名儿童中,大多数都被亲戚收养,而大约5000名儿童最终被他们以前不认识的人收养。社会工作者说,这种基于招募的收养是最难实施的。

拉米雷斯说,她打电话给吉安·冈萨加(Gian Gonzaga)。冈萨加是一名研究科学家,负责管理eharmony的算法。eharmony是一个与基督教有关的约会网站,承诺为寻求婚姻的用户提供“真爱”。她问冈萨加是否愿意和她合作创建一个领养撮合工具。

冈萨加曾与妻子希瑟·塞特拉基安(Heather Setrakian)在eharmony工作,后来又在家庭匹配算法上工作,他把问题交给了拉米雷斯。塞特拉基安说,她对自己多年来开发家庭匹配模式的工作感到非常自豪。

eharmony的发言人克里斯汀·贝瑞(Kristen Berry)表示,该约会网站“与Family-Match无关”。贝瑞称冈萨加和塞特拉基安“只是前雇员”。

不是“特别有用”

后来,拉米雷斯开始在全国各地向州政府官员推广“家庭配对”。她的工作和她的宗教信仰主要得到保守派的支持,包括第一夫人梅拉尼娅·特朗普(Melania Trump),她在白宫局势室举行的寄养活动上强调了拉米雷斯的努力。拉米雷斯与人合作撰写了报告,并在美国企业研究所(American Enterprise Institute)做了一次高调的演讲,从吸引注意力的筹款活动中获益,并利用关系说服州政府官员试用她的工具。

社会工作者说,“家庭匹配”的工作原理是这样的:寻求收养的成年人通过算法的在线平台提交调查回答,养父母或社会工作者输入每个孩子的信息。

在算法生成一个衡量“关系契合度”的分数后,Family-Match会显示每个孩子最适合的父母列表。然后社工对候选人进行审查。

在最好的情况下,一个孩子被匹配并安置在一个家庭中试用;然后父母提交法律文件,使收养正式生效。

2018年,Family-Match首次在佛罗里达州和弗吉尼亚州为家庭配对。弗吉尼亚州时任州长、民主党人特里·麦考利夫(Terry McAuliffe)在一位竞选捐款人的敦促下下令进行试点,他任命这位捐款人为该州的“收养冠军”。在佛罗里达州,有一个私有化的儿童福利系统,地区护理组织很快就免费注册了这个算法,这要感谢当时制造Patrón龙舌兰酒公司的首席执行官和他的妻子建立的一个基金会的资助。

佛罗里达州的慈善资金一旦枯竭,州政府就承担了这笔费用,上个月授予“收养分享”一份价值35万美元的服务合同。

随后在田纳西州和佐治亚州进行了试点。

自2016年以来,adopt - share已经创造了420万美元的收入;根据其纳税申报表,该公司在2022年申报了约120万美元。

官员们说,在弗吉尼亚州为期两年的“家庭匹配”测试中,该算法只产生了一项已知的收养。

弗吉尼亚州社会服务部(Virginia Department of Social Services)在一份声明中说,“当地工作人员报告说,他们没有发现这个工具特别有用。”该部门指出,家庭匹配在该州“没有被证明是有效的”。

弗吉尼亚州社会服务机构的助理主任特蕾西·琼斯(Traci Jones)说,弗吉尼亚州的社会工作者也感到困惑,因为该算法似乎将所有孩子与同一组父母匹配起来。

琼斯说:“即使在被请求后,我们也无法访问该算法。”

到2022年,弗吉尼亚州已经授予“收养分享”一份更大的合同,用于另一项寄养计划,该非营利组织称该计划“利用”了“家庭匹配”申请。

格鲁吉亚官员表示,他们于2022年10月结束了最初的试点,因为该工具没有按预期工作,最终在为期一年的实验中只采用了两次。

社会工作者表示,该工具的匹配建议经常会让他们找到不愿意领养这些孩子的父母,这让他们质疑该算法是否正确地评估了成年人收养这些孩子的能力。

拉米雷斯会见了州长办公室,并游说州议会委员会直接拨款,称该工具是“一项令人难以置信的壮举”。乔治亚州公共服务部发言人凯莉·温顿(Kylie Winton)说,到7月,该部门与收养分享公司签署了一项新的协议,再次使用“家庭匹配”服务——这次是免费的。

佛罗里达州的私有化儿童福利系统由十多个地区机构提供寄养和收养服务。当美联社要求有关其家庭匹配案例的公开记录时,许多机构对该工具的评价不一,无法解释家庭匹配的自我报告数据,因此很难评估该算法所谓的成功率。

根据美联社从彭萨科拉的一家儿童福利组织获得的收养分享(Adoption-Share) 2023财年第三季度报告,在佛罗里达州全州范围内,Family-Match申请了603个安置名额,在5年时间里导致了431人被收养。

代表“家庭第一网络”的律师斯科特·史蒂文斯(Scott Stevens)在6月告诉美联社,自该机构于2019年开始使用该算法以来,“家庭匹配”推荐的试验地点只有三次失败。但史蒂文斯向美联社提供的“收养分享”记录显示,他的机构安排了76个其他的“家庭匹配”项目,这些项目并没有显示这些孩子是被正式收养的。当美联社要求史蒂文斯澄清时,他无法说出这76个案例中发生了什么,并将进一步的问题交给了Family-Match。

拉米雷斯拒绝讨论这种差异,但在一封电子邮件中承认,并非所有的匹配都能成功。

拉米雷斯在一封电子邮件中说,“过渡到收养的过程可能需要一些时间。”他补充说,“最终决定最终收养是”那些听取了儿童和法官意见的机构的“责任”。周日,“收养分享”在其Facebook页面上发布消息称,该组织“在佛罗里达州已经收养了500人!”

杰恩·佩蒂翁(Jenn Petion)是杰克逊维尔处理收养问题的组织的总裁兼首席执行官,她说,她喜欢这个算法让她的团队在全州范围内挖掘潜在父母的方式。佩蒂翁还支持Family-Match帮助她找到养女,她在收养分享的年度报告中称养女“100%匹配”。

佩蒂翁说,家庭配对帮助社会工作者做出“更好的决定,更好的配对”,但她所在的家庭支持服务机构拒绝提供有关家庭配对的统计数据。

总部位于迈尔斯堡的佛罗里达西南部儿童网络表示,在过去的五年里,家庭配对工具已经促成了22对配对和8对收养,相比之下,没有这个工具的社会工作者只促成了数百对配对和数百对收养。

位于迈阿密的Citrus Family Care Network的收养项目经理布里·波菲尔(Bree Bofill)说,社会工作者发现这个工具效果不太好,往往会暗示潜在的家庭不适合。

波菲尔在谈到该算法时说:“令人沮丧的是,它说这些孩子很匹配,但实际上,当你仔细研究时,这些家庭对他们并不感兴趣。”

波菲尔还表示,很难评估该工具的效用,因为寻找潜在父母的社会工作者有时会被“家庭匹配”的官员要求告诉这些成年人在该工具上注册,即使它在收养过程中没有发挥任何作用,也允许算法将匹配归功于自己。

乔治亚州机构发言人温顿向美联社透露了一个类似的问题——如果孩子和父母已经在其系统中,即使该项目没有产生匹配,也可以申请配对。在2023年4月发布在互联网上的一份“机密”用户指南中,Family-Match指示社会工作者不要删除在该工具之外匹配的病例。相反,他们被告知要在系统中记录匹配情况,以便“收养分享”可以改进算法,并跟进家庭。

拉米雷斯没有回应波菲尔的说法,但在一封电子邮件中表示,家庭匹配的报告反映了社会工作者对该系统的投入。

“把孩子当小白鼠”

弗吉尼亚州、佐治亚州和佛罗里达州的官员表示,他们不确定该工具是如何根据驱动该算法的高度敏感变量对家庭进行评分的。

在乔治亚州,“家庭配对”继续收集有关寄养青少年是否遭受过性虐待、施虐者的性别、是否有犯罪记录或“认同为LGBTQIA”的数据。这类信息通常仅限于严格保密的儿童保护服务案件档案。

在田纳西州,该算法为准父母设计了一份问卷,要求他们提供具体的家庭收入,并对自己的“传统”或“缺乏创造力”进行打分。根据美联社获得的记录,他们还被问及是否同意或不同意关于他们是否寻求上帝帮助的说法。

当田纳西州儿童服务部审查拟议的家庭匹配评估时,他们质疑家庭匹配想要收集的一些信息。一份内部文件显示,田纳西州的官员问,为什么Family-Match需要某些敏感数据点,以及这些数据如何影响比赛得分。该州工作人员在文件中指出了有关该算法的问题和反馈。拉米雷斯说,该机构没有质疑调查的有效性,并说讨论是精简过程的一部分。

弗吉尼亚州官员表示,一旦家庭数据输入该工具,“收养共享”就拥有了这些数据。

在佛罗里达州,两家机构承认他们在没有合同的情况下非正式地使用了Family-Match,但不愿透露如何保护儿童数据。

拉米雷斯不愿透露Family-Match是否已经从服务器上删除了试点数据,但她说,她的组织一直在进行合规性审计,并遵守合同条款。

社会福利倡导者和数据安全专家一直在对政府机构越来越依赖预测分析来协助他们的工作发出警告。这些研究人员和支持者表示,这些工具会加剧种族差异,并基于无法改变的特征对家庭造成歧视。

收养分享是一小部分组织的一部分,这些组织表示,他们的算法可以帮助社会工作者将儿童安置在寄养或收养家庭。

“从本质上讲,我们把孩子当作这些工具的小白鼠。他们是碰撞测试的假人,”曾任拜登白宫科技政策办公室助理主任、现就职于布朗大学的苏雷什·文卡塔苏布拉马尼安(Suresh Venkatasubramanian)说。“这是一个大问题。”

寻求扩张

adopt - share继续尝试扩张,在纽约市、特拉华州和密苏里州等地寻求业务,这些地方的儿童福利机构官员正在审查它的宣传。拉米雷斯说,她去年也看到了一个机会,向美国卫生与公众服务部介绍“家庭匹配”,“以展示我们的工具以及它如何成为一种有用的资源”。

根据州政府的合同,今年,Adoption-Share与佛罗里达州家庭匹配卫生部(Florida Department of Health for Family-Match)达成了一项协议,建立一个算法,旨在“增加愿意收养和/或收养医学上有问题的儿童的家庭数量”。卫生部官员没有回应记者的多次置评请求。

康尼·戈林是佛罗里达州的一名长期社会工作者,拉米雷斯将她自己被收养的故事描述为她“家庭匹配”的灵感来源,她说她不相信这个工具会帮助这些脆弱的孩子。戈宁说,该算法未能成功配对,给等待的父母带来了虚假的希望,最终使她的工作更加困难。

“我们已经把我们的信任放在了不是百分之百有用的东西上,”Going说。“这对社会工作者来说是浪费时间,对孩子们来说是浪费情感体验。”

信息源:
举报收藏 0打赏 0评论 0