Google 将AI 视为一项基础和变革性技术，最近在生成 AI 技术方面取得了进展，例如LaMDA、PaLM、Imagen、Parti、MusicLM和类似的机器学习 (ML) 模型，其中一些现在已被纳入我们的产品中。这种变革潜力要求我们不仅要对如何推进我们的技术负责，还要对我们如何设想要构建哪些技术，以及我们如何评估 AI 和支持 ML 的技术对世界的社会影响负责。这项工作需要跨学科的基础研究和应用研究它涉及并解释影响人工智能系统开发和部署的社会、文化、经济和其他背景维度。我们还必须了解持续使用此类技术可能对脆弱社区和更广泛的社会系统产生的影响范围。

我们的技术、人工智能、社会和文化 (TASC) 团队正在解决这一关键需求。人工智能的社会影响研究是复杂且多方面的；没有任何一种学科或方法论的观点可以单独提供应对 ML 技术的社会和文化影响所需的各种见解。因此，TASC 利用跨学科团队的优势，其背景从计算机科学到社会科学、数字媒体和城市科学。我们使用具有定性、定量和混合方法的多方法来批判性地检查和塑造支撑和围绕 AI 技术的社会和技术过程。我们专注于参与性、文化包容性和交叉性的以公平为导向的研究，这些研究将受影响的社区带到了前台。计算机视觉、自然语言处理、健康和通用 ML 模型和应用程序。下面，我们分享了我们实现负责任人工智能的方法示例以及我们在 2023 年的发展方向。

TASC 研究的各种社会、技术和公平研究领域的可视化图表，以尊重人工智能与社会之间复杂关系的方式推进负责任的人工智能。

主题 1：文化、社区和人工智能

我们的一个关键研究领域是通过社区参与和文化包容 的方法，改进方法，使生成人工智能技术对全球人民更具包容性和价值。为实现这一目标，我们将社区视为其所在环境中的专家，认识到他们对技术如何能够并且应该如何影响他们自己的生活的深入了解。我们的研究支持嵌入跨文化因素的重要性在整个 ML 开发管道中。社区参与使我们能够改变我们如何整合整个管道中最重要的知识，从数据集管理到评估。这也使我们能够理解和解释技术失败的方式以及特定社区可能如何受到伤害。基于这种理解，我们创建了负责任的 AI 评估策略，可以有效地识别和减轻多个维度的偏见。

我们在这一领域的工作对于确保 Google 的技术对世界各地不同的利益相关者群体安全、有效和有用至关重要。例如，我们针对全球南方的用户对人工智能的态度、负责任的交互设计和公平性评估的研究表明了人工智能影响的跨文化差异，并贡献了支持文化情境评估的资源。我们还建立了跨学科研究社区，通过我们最近和即将举行的人工智能文化/人工智能文化研讨会、计算机视觉创造性应用中的伦理考虑以及NLP 中的跨文化考虑。

我们最近的研究还寻找了已知在 ML 开发和应用中代表较少的特定社区的观点。例如，我们调查了自然语言和性别包容性健康等背景下的性别偏见，利用我们的研究来开发更准确的偏见评估，以便任何开发这些技术的人都可以识别和减轻对同性恋者和同性恋者的伤害。非二进制身份。


主题 2：在整个开发生命周期中启用负责任的人工智能

我们致力于通过在整个开发管道中为 RAI 建立行业范围的最佳实践，并确保我们的技术在默认情况下可验证地纳入该最佳实践，从而大规模启用 RAI。这项应用研究包括负责 ML 开发的数据生成和分析，以及系统地推进工具和实践，以支持从业者实现关键的 RAI 目标，如透明度、公平性和问责制。扩展数据卡、模型卡和模型卡工具包的早期工作，我们发布了数据卡手册，为开发人员提供方法和工具来记录与数据集相关的适当用途和基本事实。由于 ML 模型经常在人工标注的数据上进行训练和评估，因此我们还推进了以人为中心的数据标注研究。我们开发了框架来记录注释过程和方法，以解释评分者的分歧和评分者的多样性。这些方法使 ML 从业者能够通过识别当前的障碍和重新设想数据工作实践， 更好地确保用于训练模型的数据集注释的多样性。


未来发展方向

我们现在正在努力进一步扩大对 ML 模型开发的参与，通过将多种文化背景和声音嵌入技术设计、开发和影响评估的方法，以确保人工智能实现社会目标。我们还在重新定义负责任的做法，以应对当今世界 ML 技术运作的规模。例如，我们正在开发可以使社区参与行业 AI 研发的框架和结构，包括以社区为中心的评估框架、基准以及数据集管理和共享。

特别是，我们正在进一步了解NLP 语言模型如何使对残疾人的偏见长期存在，将这项研究扩展到解决其他边缘化社区和文化，包括图像、视频和其他多模态模型。这些模型可能包含关于特定群体的比喻和刻板印象，或者可能抹去特定个人或社区的经历。我们在 ML 模型中识别偏差来源的努力将导致更好地检测这些代表性危害，并将支持创建更公平和包容的系统。

TASC 旨在研究人工智能与人之间的所有接触点——从个人和社区，到文化和社会。为了使人工智能具有文化包容性、公平性、可访问性和反映受影响社区的需求，我们必须通过以受影响社区的需求为中心的跨学科和多学科研究来应对这些挑战。我们的研究将继续探索社会与 AI 之间的相互作用，进一步发现开发和评估 AI 的新方法，以便我们开发更强大和符合文化背景的 AI 技术。


致谢

我们要感谢为这篇博文做出贡献的团队中的每一个人。按姓氏字母顺序排列：Cynthia Bennett, Eric Corbett, Aida Mostafazadeh Davani, Emily Denton, Sunipa Dev, Fernando Diaz, Mark Díaz, Shaun Kane, Shivani Kapania, Michael Madaio, Vinodkumar Prabhakaran, Rida Qadri, Renee Shelby, Ding Wang,和安德鲁·扎尔迪瓦。此外，我们还要感谢 Toju Duke 和 Marian Croak 提供的宝贵反馈和建议。