FaceIt 工具包
共创负责任的可信 AI
与 isITethical 研究所合作。FACEIT 是一款服务设计工具包，通过共创工作坊，鼓励面部皮肤病患者及家属参与“AI皮肤诊断及伦理风险”的讨论，并提供情感支持。它旨在推动AI伦理对话，促进负责任的技术创新，帮助AI诊断产品提升市场竞争力和用户满意度。
项目概况
挑战
人工智能 (AI) 正在改变医疗保健和医学实践，尤其是数据驱动科学和机器学习技术正在为各种医疗和临床任务做出贡献。这些进步也引发了隐私、安全、公平性等道德伦理问题与风险。同时，AI伦理和可信AI已成为主流AI产品和服务市场竞争优势的核心引擎之一。isITethical邀请我们通过设计方法介入，以促进AI伦理与负责任的技术创新。
影响
项目获“ 设计中的人工智能伦理奖 (AI Ethics through Design Awards) ” 特别提名，并于伦敦科学画廊(London Science Gallery)的“FRIDAY LATES: MACHINE MYTHOLOGIES ”展出。
我的角色
我作为4人设计团队的队长，担任项目管理的工作。
我的技能：文献研究、用户访谈、组织和主持共创工作坊、原型设计与测试、工具包产品设计、服务蓝图。
系统研究与洞察
01. 文献研究
我们进行了广泛的，我们调研了AI诊断前沿成果与产品，例如AI-Dermatologist、Google Deepmind。这帮助我们了解AI工作原理，初步评估AI诊断系统在训练、部署、更新和维护不同阶段的伦理风险。揭示了数据集作为系统最活跃因素之一，许多伦理隐患也围绕着它产生。
02. 定量问卷调查
我们向39名面部皮肤病经历者发放问卷，了解他们使用AI诊断的意愿，影响其选择AI诊断的因素及其对潜在伦理担忧。为设计和决策提供可靠的数据支撑。
03. 利益相关者访谈
为确定各方优先事项，我们对主要利益相关者进行访谈，包括面部皮肤病患者及家属、医疗服务人员、面部皮肤病社群，AI算法工程师等。访谈揭示了系统4大障碍：隐私和数据安全问题是面部皮肤病患者的主要顾虑；AI伦理的关注在AI企业内部有限且集中于管理层；学科术语作为跨学科AI团队的沟通障碍；各方对伦理责任的模糊认知。
关键洞察
这项研究帮助我们从用户角度挖掘出影响AI皮肤诊断合伦理的技术创新的三个关键障碍：
1. 对AI诊断技术的认识不足
患者对AI诊断技术，AI诊断的数据处理与决策路径复杂，缺乏透明度，并且医疗服务方和技术开发方往往未解释AI诊断工作原理和伦理风险。这导致患者对AI诊断结果的信任感不足，担忧隐私自主权。因为数据集这种偏差会阻碍技术的负责任发展，加剧了这种不信任和失控感。
2. 技术伦理在AI诊断开发和使用中被边缘化
不假思索认为AI诊断技术准确安全，对于数据偏见、数据主义等潜在伦理风险，很多患者没有清晰的认知。对AI变革中扮演的角色感到困惑
3. 因外貌导致的心理和社交困境
面部皮肤病患者通常会因为外貌问题，面临社会压力、歧视或自我形象的焦虑。很多患者常常感到不安全或不受欢迎，使他们更倾向于自我封闭，降低了公开表达观点的意愿。
设计机会
如何为面部皮肤病患者提供安全且富有同理心的对话空间，以分享其对AI医疗诊断及其伦理风险？
设计策略
设计未来学研究帮助我们了解英国生物多样性政策和服务面临的主要挑战：
1. 呈现易于理解的AI诊断流程
了解AI数据处理的，核心伦理框架及其应用，将抽象的AI皮肤诊断工作流程和伦理原则转译为，让更加直观、更轻松地了解AI皮肤诊断的。
2. 促进同理心的伦理对话
我们的目标不是开发一个AI伦理教育工具，而是创造出一个更为开放和支持的交流环境，让患者和家属感受到被倾听和被赋权，建立情感连接，培育信心和观点。
共同设计与方案生成
01. 共创工作坊
我们邀请4名面部皮肤疾病经历者参加共创工作坊，工作坊推动了AI伦理SNS、患者关怀社群和角色扮演游戏等概念生成。确定了关键参与方：皮肤病协会及病友社群组织。
02. 原型设计
通过综合分析这些初步概念，我们意识到需要一种由同伴互助小组主导的参与式工作坊，通过创意活动鼓励患者分享观点并增进社交。基于共创习得，我们设计了原型方案，并在3周内完成3次迭代。
03. 专家测试与评估
为验证和优化设计方案，我们进行了2场专家测试评估，专家小组由6位来自不同领域专家组成，包括AI工程师、科技咨询顾问、设计伦理研究员、社会学家等。专家反馈帮助我们完善服务机制，提升技术可信度和伦理合规性。
最终方案
服务蓝图
影响
影响
面部皮肤疾病患者：
形成对人工智能AI诊断原理及其伦理风险的基本认知，以开放心态分享观点、顾虑和期待。与健康状况相似的病友见面，提供情感支持，交流诊疗经验。
患者亲友：
进一步了解疾病及诊断方式，以提供更好的护理并守护皮肤病患者的身心健康。
AI诊断服务提供方：
促进AI伦理框架的制定，促进以更道德和负责任的方式开发产品，以推动营收增长和客户满意度提升。
皮肤疾病协会：
保护面部皮肤病患者的权利、安全、尊严和福祉，促进对患者、医学和社会有潜在益处的医学伦理研究。
您可以查看 FACEIT工具包在伦敦科学画廊展出 的视频