2022年1月25日整理发布：在大数据和人工智能惊人进步的时代，社会基础设施促进了数字参与和积极存在。数字民主传播越来越多的用户参与与机构和服务互动，确保由人工智能驱动的数字工具做出的决策反映人类价值观。
沉浸在自动化中，我们做出的许多选择包括某种形式的计算建模过程。这种从手动行为到编程行为的转变始于引入推荐系统，以根据用户的偏好寻找相似的产品。
然而，今天的人工智能系统超越了强加建议，并且非常清楚我们做什么和我们想要什么。使用“有说服力的计算”和“大力推动”，人工智能和自动化将行动导向更可接受的行为，导致人们对数字合作的现代愿景缺乏信心。
对这种现象的反应从“拔掉”或简单地与自动化系统断开连接到试图与人工智能共存。依赖于我们日常生活中的许多应用程序，显然我们已经选择了与自动化共生的道路。
然而，接触数字市场和大量解决方案自然会导致用户在线体验的混乱和怀疑。人工智能的滥用和废弃都为建立可信赖的人机交互带来了一系列额外的技术挑战。
此外，在记录、转换和分发数据方面的怀疑正在增加，形成广泛且易于访问的云以供进一步使用和操作。为了提高人机共生的质量并坚持数字革命议程的一些基本原则，用户必须获得诚信和信任自动化决策。
信任在降低用户在与复杂技术交互时所面临的认知复杂性方面发挥着重要作用。因此，它的缺失会导致 AI 模型未被充分利用或被遗弃。
通过使用可解释性作为衡量标准来掌握学习过程，可以直观地调节信任。然而，引入来自人和机器的反馈会增加上述挑战的复杂性。随着可以操纵机器的潜在用户类型的引入，该过程变得更加复杂。来自特定领域或技能集、想法或来自 AI 模型的期望输出，双向人机过程的表现对于不同的用户是不同的。
如果所有群体都了解其背后的证据并准备好有效地使用它，技术也会同样出色。作为第一组的领域专家将人工智能用于科学目的，每个相互作用都作为一个知识发现过程。
最终用户，作为第二组，对纯输出感兴趣，快速且易于使用的产品无疑必须提供结果。为了生产高质量的 AI 模型和增加自动化的使用，最后一组架构师或系统工程师需要对自动化的内部流程有一个概念。
鉴于刚才提到的所有内容，人机术语中能够将可解释性表示为衡量标准的中介是什么?用户必须能够轻松了解 AI 的性能，才能评估其能力。由于不可靠的人机交互，冲突的情况很难解决。
机器做出明显的努力可能表明它正在为用户的利益而行动。通过可视化可以很容易地理解自动化系统的这种积极行为，这反过来可能会增加信任。由于可视化增强了理解力，它可能会影响复杂系统的感知功能和可靠性。可视化减少了认知信息过载，并提供了对复杂功能的更好洞察。此外，沟通风险有助于提高可信度和对可信度的看法。
视觉语言可以被认为是心理“人际”机制与每次互动中的经验因素之间的桥梁元素。设计可用于直接影响信任级别，从而纠正人类操作员滥用和/或不使用人工智能系统的倾向。
适当的信任可以导致联合人机自动化系统的性能优于单独的人类或人工智能系统。鉴于透明通信对于建立信任至关重要，可视化的使用直接影响人机自动化的改进。
由于视觉方面，双向学习的潜力可以发挥其全部潜力，如果模型未能提供理想的结果，则直接基于视觉的人在循环输入。输入和输出在同一个(视觉)空间中，有效的措施发生在两边。解释 AI 模型的内部有助于有效控制并促进对适当的最终用户的公平性，这些最终用户的兴趣仅集中在基于人类的解释上。
然而，将机器内部过程的各个阶段可视化并不足以完全理解。直接设置参数或影响 AI 模型训练过程的可能性提供了更高水平的沟通，增加了双向学习，并促进了信任。在机器学习中使用交互式可视化可以在学习过程中产生直接和即时的输出，从而产生有效的视觉反馈。通过这种方式，所有用户类型都可以了解 AI 模型的动作和性能，从而为使用不同媒体(移动、桌面、VR/AR)应用人工智能开辟了空间。
促进人机共生背后的想法不是训练自动化并取代我们的一些活动。“相互”理解需要实现良好的输入和信任，以便用户从人工智能中受益并帮助知识发现。
已经朝着这个方向采取了行动，Archspike等平台正在努力提供定性的人机反馈。该平台“了解”用户的意图以及这些“知识”如何随着时间的推移连续的人工输入而变化。用户对在大(城市)规模上应用的感兴趣的结果(不是建议)做出反应，否则这些结果是无法接收的。
另一个实际的例子是一个名为Macaque的平台，它在用户和人工智能系统之间提供了多个同步的双向循环。该平台的主要贡献是增加了信任，为操作员提供了轻松理解和单独管理复杂模块的机会。Macaque 通过使用人类和人工智能的能力来提高自我表现。操作员选择一种方法，自动进行评估，机器根据最终用户与系统的交互来跟踪最终用户的反应。随着时间的推移，运营商会根据多个同步的最终用户输入获得受监管且偏差较小的结果。
未来的环境及其活力将取决于使用智能应用程序和“系统思维”的能力。人工智能架构师必须了解自动化系统的工作原理，以便开发有效的反馈并提高模型性能。多个同步或不同步的信息流需要集成到高效的双向循环中。
每个过程的核心方面是人类的认知功能及其使用自动化的进一步发展。人工智能系统应该支持客观理性的思考，吸引和激励用户，而不是强加建议。通过使用反馈循环，我们可以衡量我们互动的积极和消极的副作用，并通过自组织的方式取得成果。可视化对于提供有关更改如何影响 AI 模型的见解至关重要，并且应该在学习过程的任何阶段使用。为了理解如何将有效的反馈循环应用到有效的人机交互中，我们需要分解问题并理解人工智能对人的影响与人对自动化过程的影响分开。