如果照镜子就能知道自己是什么性格，对自己进行剖析，你敢照这样的镜子吗?
　　来自墨尔本大学的研究人员设计了一种AI生物识别镜，可以仅仅根据人的脸部照片检测和显示其个性特征和外貌上的魅力，最多可以分析14项性格特征，这一系统属于世界首创。
       
　　该系统名为生物识别镜(Biometric Mirror)，可以检测一个人对AI的理解以及对其独有特征的相关信息的反应。当有人站在生物识别镜前时，系统会在几秒钟内检测出一系列面部特征。然后将用户的数据与数千张面部照片的数据进行比较，这些面部照片是对众包志愿者进行心理评估测试时使用的。
　　生物识别镜会显示14种特征，包括性别、年龄、种族，以及魅力、性格古怪之处和情绪稳定度等。一个人站在识别镜前的时间越长，评估特征越趋于个性化。生物识别镜使用小型公开数据集中的数千张面部图片及众包分析的评估结果。
　　该项目由社会自然用户界面中心(Social NUI)和墨尔本科学馆的Niels Wouters博士领导，探讨了该技术由内容、数据存储和算法偏差所引起的担忧。
　　“随着人工智能和大数据的兴起，政府和企业将越来越多地使用闭路电视摄像机(CCTV)和互动广告来检测过路人的情绪、年龄、性别和人口统计学特征。”Wouters说。
　　探索人工智能应用的道德边界
　　“我们的研究关注关于人工智能应用界限的挑战性问题。该研究向用户表明，以不道德的、有问题的方法来利用人工智能是很容易的，也可能会产生某些负面的社会后果。我们鼓励人们对隐私和大规模监视的问题进行讨论，希望这些讨论有助于更好地理解人工智能背后的道德规范问题。”
　　生物识别镜凸显出了算法偏差可能造成的现实后果。
　　“虽然收集关于用户购物偏好的个人信息，用来提供定制化的个人服务似乎是有益无害的，但未经用户同意就获取这些信息，让人无法确定这些预测是不是基于正确的数据而做出的。”Wouters说。
　　“人工智能的应用范围很容易超出了购物和广告等领域。想象一下，无法控制的算法可能会错误地认为你不适合某个管理职位，没有资格获得大学学位，或未经你的同意公开分享你的照片。
　　“你要选择一个指标，比如责任感水平，生物识别镜会要求你想象，这些信息现在正在、与你的保险公司或未来的雇主分享，”Wouters博士说。 “这个项目透明化地呈现了这些信息对个人产生的潜在后果。”
　　Wouters博士说，重要的是，它是个生物识别镜，而不是心理分析工具。
　　“生物识别镜只计算公众由用户的外貌而做出的估计，”他说。“它的局限性在于准确性有限，因为在设计上只参考了相对较小且众包的数据集。想要从生物识别镜中得出关于心理状态的有意义的结论是不合适的。”