新智元报道
来源：unite.ai
编辑：好困
【新智元导读】人工智能常常无法完全理解人们的喜怒无常，「算法疲劳」正是在算法不能正确回应用户需求时所产生的。
战略咨询公司爱丽丝实验室（Alice Labs）和全球技术公司Reaktor进行的一项新研究阐明了研究人员所说的「算法疲劳」（algorithmic fatigue）。
当人们花费大量时间做诸如浏览流服务之类的事情时，AI系统可能无法满足用户的期望，这便会使用户感到疲劳。
我与算法的二三事
这项研究给出了三种不同类型的AI交互方式：
被动：用户希望将注意力集中在某些活动上，例如工作或做家务，而不与算法系统进行交互。
在这种情况下，人们期望AI驱动的系统能够提供顺畅的用户体验。例如，在做饭时语音助手可以提供正确的重量转换。
引导：用户将算法视为实现当前意图的一种手段，例如度过轻松的时光。举个例子，一个人在工作中度过了艰难的一天， 想通过观看视频流媒体服务放松身心。在这种情况下，用户不希望过多地参与算法决策，而是希望确保系统可以推荐电影来放松自己。
协作：当用户的对某个方面进行探索时，他们希望在算法决策中发挥积极的协作作用。例如，用户希望通过发现的新音乐或文学作品来了解更多有关自己感兴趣的主题或扩展自己的爱好。
用户根据情况而采用的三种不同交互方式
你太让我失望了！
爱丽丝实验室的研究人员柯西·汉图拉（Kirsi Hantula）说：“虽然算法在许多情况下是有用的，但它们的机器性能仍然受到限制：它们无法预测用户何时会遇到糟糕的一天，需要观看一些轻松的东西，它们也无法理解用户的喜好会随着时间的推移而发生细微的变化。”
只要算法系统能够提供用户期望的结果，一切都会顺利进行。
但是，目前的算法系统经常无法满足用户的期望。
当算法给出一个错误的结果或者错误地判断了用户的需求，这时用户不得不中断自己在进行的活动对系统进行纠错。这就造成了用户的注意力的分散，迫使他们转移到系统上。不仅浪费时间，还会破坏原有活动的节奏。
「我想听流行音乐，并不是想听一首叫『流行』的音乐，即便它确实很好听。」
目前，算法系统仍然无法很好地记录用户不断发展的品味和兴趣，因为用户对新的事物之间的互动通常发生在这些系统之外的社交环境中。
算法系统同样无法暂时地摆脱用户资料和历史记录，这使得用户不得不对暂时需要或感兴趣的的内容保持谨慎的态度，避免系统陷入到「错误」的数据中，从而影响之后使用时系统提供的推荐。
对于算法决策中某些关键因素，用户希望拥有更有深度的协作方式以及更高效的与系统交互的工具。而目前可以使用的工具不足以实现此目的，它们只会在算法决策中引起渐进和渐进的变化，并且其效果仍是无法被用户所看到的。
还是朋友靠谱
各种基于AI的设备已经发展了十多年，许多用户也已经意识到如何引导这些不完善的系统。
这意味着用户已经不得不开始与自己去和算法疲劳作斗争。例如，将AI的使用局限在其最基本的功能上，例如使用语音助手进行简单的任务。
而研究人员发现，越来越多的用户在放弃使用推荐算法，而更多地转向拥有相同兴趣的其他人，并认为这些人比算法更可靠。如果公司想与消费者建立更牢固的关系，他们应该找到应对算法疲劳的方法。
参考资料：
https://www.unite.ai/new-study-sheds-light-on-algorithmic-fatigue/
https://f.hubspotusercontent30.net/hubfs/5413232/Everyday_AI_report.pdf?__hstc=&__hssc=&hsCtaTracking=a3a38a4c-5fbc-4f1b-9134-03f364938a6c|8eb65750-4092-4aaa-b48d-682d1b33da3c
