研究揭示,人工智能心理健康工具或将加剧性别与种族偏见

   丹佛,8月15日——俗话说,不要被外表所迷惑。然而,人工智能似乎已经落入了这个陷阱。根据美国科罗拉多大学的一项研究,在心理健康领域治疗患者的项目中使用的一些基于人工智...

  研究表明,AI心理健康工具可能会强化性别和种族偏见

丹佛,8月15日——俗话说,不要被外表所迷惑。然而,人工智能似乎已经落入了这个陷阱。根据美国科罗拉多大学的一项研究,在心理健康领域治疗患者的项目中使用的一些基于人工智能的工具可能依赖于有偏见的信息。

刻板印象很难消除。据科罗拉多大学博尔德分校的研究人员称,算法也发现了这些陈词滥调。由计算机科学副教授Theodora Chaspari领导的一项研究揭示了一个令人担忧的现实:用于筛查心理健康问题的人工智能(AI)工具可能会对患者的性别和种族产生偏见。这一发现提出了关于心理健康技术的公平性和有效性的关键问题。

这项题为“解构基于语音的数字健康机器学习模型中的人口统计学偏见”的研究发表在《数字健康前沿》杂志上,该研究表明,本应筛查焦虑和抑郁等心理健康问题的算法可以根据患者的性别和种族做出假设:“如果人工智能没有得到很好的训练,或者没有包含足够的代表性数据,它就会传播这些人类或社会的偏见,”计算机科学系副教授Chaspari教授说。

在将人们的音频样本置于一套学习算法之后,研究人员发现了患者的几个潜在危险缺陷。结果显示,与男性相比,机器更有可能误诊有抑郁症风险的女性。

除了歧视患者的性别,人工智能还会错误地评估患者的语言。据研究人员称,患有焦虑症的人会用更高的音调和更多的激动来表达自己,同时表现出呼吸急促的迹象。相比之下,有抑郁迹象的人更有可能轻声细语,语调单调。

为了验证这些假设,研究人员分析了参与者在一群不认识的人面前发表简短演讲时的行为。另一组男性和女性在类似临床的环境中相互交谈。

在第一组中,拉丁美洲人比白人或黑人参与者更紧张,但人工智能没有检测到这一点。在第二组中,算法将男性和女性的抑郁风险划分为相同的水平,但后者实际上有更多的症状。“如果我们认为算法实际上低估了特定群体的抑郁症,我们需要告知临床医生,”西奥多拉·查斯帕里强调说。- ETX Studio

本文来自作者[访客]投稿,不代表nslqa号立场,如若转载,请注明出处:https://wap.nslqa.cn/zsfx/202507-665.html

(11)

文章推荐

  • 黎巴嫩真主党指挥中心遭以色列攻击

    以色列军方报告说,对黎巴嫩境内的真主党据点发动了新一轮夜间袭击,声称袭击的目标是真主党的一个指挥室,造成该组织15名成员死亡。以色列军方在10月22日星期二发表的一份声明中提到,在过去24小时内,大约230个与黎巴嫩真主党和加沙哈马斯有关的目标遭到袭击。

    2025年06月26日
    12
  • 斐济发生船只倾覆事故,三人遇难,女孩下落不明

      这艘船在图武卡岛附近倾覆。(档案照片)斐济一艘船倾覆,一名12岁女孩失踪,三人淹死。斐济警方在一份声明中说,这艘船在图武卡岛附近倾覆。“昨天,16人早上离开图武卡岛前往塔武努库岛。“下午,村民们接到一个电话,说早上离开的船已经倾覆了。”其中12人已经获救。

    2025年07月17日
    10
  • 吉打州撤离人数增加,霹雳州再度遭遇洪水

    吉隆坡:巴陵成为吉打州遭受洪水袭击的最新地区,截至周二(10月1日)上午8点,该州457个家庭的撤离总人数达到1373人,而上周一晚上(9月30日)426个家庭的撤离总人数为1332人。根据社会福利部的灾难信息报告,来自巴灵62个家庭的134人已被转移到四个临时救

    2025年07月28日
    12
  • 你准备好欣赏今年超级碗的广告了吗?这是周日比赛间隙的精彩广告

    纽约(美联社)——超级碗周日就在这里——和往常一样,有大量的广告商准备在比赛休息时争夺球迷的注意力。播放超级碗广告并非易事。据报道,在比赛期间30秒广告的价格高达700万美元,除此之外,品牌还聘请了最大牌的演员,投资了令人眼花缭乱的特效,并试图制作出一个超过1亿

    2025年08月07日
    14
  • 预计台风“哈农”今晚9点左右逼近首尔周边

    受台风“哈农”的影响,蔚山东南部的一条道路上交通瘫痪。(联合通讯社)韩国气象厅表示,台风“哈农”当天上午在巨济附近的东南海岸登陆,预计将带来强降雨和强风,并于周四晚上抵达首尔附近。气象厅预测,当天上午9时20分,“哈农”在巨济附近的东南海岸登陆,预计将

    2025年08月07日
    15
  • 81岁男子被控在抗议者腿上站立,协助警方接受审判

      一名81岁的男子被指控踩在一名抗议者的腿上,据报道,他是为了阻止这名抗议者逃离警察,他将于下个月受审。基思·爱德华兹于周五在诺丁汉地方法院出庭,他不承认在8月3日诺丁汉长排预先计划的抗议活动中使用辱骂或威胁行为,意图引起恐惧或挑起非法暴力。他的律师说,爱德华兹“没有参与”抗议活动

    2025年08月09日
    15
  • 南欧国家呼吁中东实现停火

      帕福斯,塞浦路斯:周五(10月11日),地中海沿岸9个欧洲国家的领导人在塞浦路斯举行的峰会上呼吁结束加沙和黎巴嫩的战斗。法国总统埃马纽埃尔·马克龙和意大利总理乔治娅·梅洛尼谴责以色列向黎巴嫩南部的联合国维和部队开火是“不可接受的”,西班牙首相也表达了同样的立场。这三个国家在联合

    2025年08月10日
    15
  • 必看教程“海南琼崖麻将开挂免费软件游戏亮点”开挂详细教学

    海南琼崖麻将开挂免费软件游戏亮点是一款可以让一直输的玩家,快速成为一个“必胜”的ai辅助神器,有需要的用户可以加我微下载使用。手机打牌可以一键让你轻松成为“必赢”。其操作方式十分简单,打开这个应用便可以自定义手机打牌系统规律,只需要输入自己想要的开挂功能,一键

    2025年08月11日
    14
  • 伯里圣埃德蒙兹居民街发现棒球棒

    一名40岁的男子在伯里圣埃德蒙兹住宅区的街道上被发现持有棒球棒,他被罚款并被要求支付诉讼费用。詹姆斯·莱奇福德,无固定住所,8月出现在伊普斯维奇的萨福克地方法院。5月25日,他在伯里的巴维克大道被人用棒球棒拦下,被控在公共场所持有攻击性武器。

    2025年08月11日
    13
  • 乌克兰独立日:Olga Tsybytovska的经历

    Mriya是世界上最大的货运飞机。它是由乌克兰工程师设计和建造的,在战争的第一周遭到严重破坏。我们在老布朗普顿路上的小餐馆供应形状像Mriya的饼干,因为对乌克兰人来说,它不仅仅是一架飞机。这是我们人民可以创造的不可思议的事物的一个例子,也是我们为胜利、

    2025年08月12日
    13

发表回复

本站作者后才能评论

评论列表(4条)

  • 访客
    访客 2025年07月09日

    我是nslqa号的签约作者“访客”!

  • 访客
    访客 2025年07月09日

    希望本篇文章《研究揭示,人工智能心理健康工具或将加剧性别与种族偏见》能对你有所帮助!

  • 访客
    访客 2025年07月09日

    本站[nslqa号]内容主要涵盖:国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育

  • 访客
    访客 2025年07月09日

    本文概览:   丹佛,8月15日——俗话说,不要被外表所迷惑。然而,人工智能似乎已经落入了这个陷阱。根据美国科罗拉多大学的一项研究,在心理健康领域治疗患者的项目中使用的一些基于人工智...

    联系我们

    邮件:nslqa号@sina.com

    工作时间:周一至周五,9:30-18:30,节假日休息

    关注我们