今日解读！开源项目命运堪忧：Stable Diffusion 创始人出走，SD3 项目陷入困境

开源项目命运堪忧：Stable Diffusion 创始人出走，SD3 项目陷入困境

北京时间 2024 年 6 月 17 日 - 近日，人工智能界知名开源项目 Stable Diffusion 遭遇重大动荡，其创始人兼 CEO Emad Mostaque 突然宣布离职，并创办了一家新公司。这一消息令许多依赖 Stable Diffusion 进行创作和研究的人员感到担忧，项目的未来发展也蒙上了阴影。

Stable Diffusion 是一款功能强大的开源文本转图像模型，在 2022 年发布后迅速获得广泛关注，并被誉为 "AI 绘画界的革命"。该项目由 Stability AI 公司开发，Mostaque 担任 CEO。然而，在短短一年多之后，Mostaque 却选择离开，并带走了部分核心团队成员。

Mostaque 的突然离职引发了外界诸多猜测。有分析认为，他可能对 Stable Diffusion 的发展方向与公司其他股东存在分歧，也有传言称 Stability AI 正在面临财务困境。目前，Mostaque 尚未对此事发表任何公开评论。

Mostaque 的出走对 Stable Diffusion 项目造成了重大打击。SD3 是 Stable Diffusion 的最新版本，于今年 5 月发布，但由于缺乏维护和更新，目前已经出现了许多问题，包括模型性能下降、生成图像质量不佳等。许多用户表示，他们难以继续使用 SD3 进行创作。

更令人担忧的是，Stability AI 公司似乎已经放弃了对 SD3 的支持。在 Mostaque 离职后，公司并未发布任何有关 SD3 未来发展计划的公告。目前，SD3 项目主要由社区志愿者维护，但他们的人力和资源有限，难以解决项目面临的诸多问题。

Stable Diffusion 的困境凸显了开源项目的脆弱性。开源项目往往依赖于创始人和核心团队成员的贡献，如果他们突然离职或项目缺乏资金支持，项目就可能陷入停滞甚至消亡。对于依赖开源项目进行工作或研究的人员来说，这是一个巨大的风险。

Stable Diffusion 的未来尚不明朗。如果项目无法得到持续的维护和更新，最终可能走向消亡。这将是开源社区的一大损失。

人工智能搜索误导用户？谷歌陷“胶水披萨”风波

近日，谷歌人工智能搜索结果建议用户往披萨里加胶水一事引发热议。该建议源自网络恶搞视频，但人工智能系统却未能识别，并将其作为真实信息呈现给用户。这一事件暴露了人工智能搜索系统在识别虚假信息方面存在的缺陷，也引发了人们对人工智能技术安全性的担忧。

事件回顾

5月底，国外网红凯蒂·诺托普洛斯在社交平台上发布了一段视频，称她在制作披萨时意外将胶水当成了鸡蛋加入其中。视频中，凯蒂面不改色地将披萨吃下，并表示味道“还不错”。

这段视频迅速走红网络，也引起了谷歌人工智能系统的注意。在用户搜索“往披萨里加什么”时，谷歌人工智能系统会自动推荐相关结果。其中，一个结果显示“加八分之一杯胶水”，并附上凯蒂的视频链接。

人工智能“幻觉”

这一结果引起了许多用户的质疑。有用户指出，往披萨里加胶水显然是危险的，谷歌人工智能系统竟然会推荐这样的结果，令人难以置信。

对此，谷歌方面解释称，人工智能系统是基于大量网络数据进行训练的，难免会受到虚假信息的误导。在凯蒂的视频走红后，相关关键词与“披萨”的搜索量急剧增加，导致人工智能系统将视频中的错误信息当成了真实结果。

引发担忧

谷歌人工智能搜索结果误导用户事件，暴露了人工智能系统在识别虚假信息方面存在的缺陷。这并非个例，此前也有报道称，一些人工智能系统被植入虚假信息，导致其做出错误判断。

人工智能技术的发展给人类社会带来了巨大便利，但也带来了一些新的风险。如果人工智能系统无法识别虚假信息，就有可能被别有用心者利用，造成严重后果。

如何应对？

为了解决人工智能“幻觉”问题，需要从以下几个方面入手：

• 加强对人工智能系统的训练，提高其识别虚假信息的能力。
• 建立健全的人工智能伦理规范，防止人工智能技术被滥用。
• 提高公众对人工智能技术的认知，帮助人们识别虚假信息。

人工智能技术是一把双刃剑，既能造福人类，也能带来风险。只有正视人工智能技术的风险，才能更好地利用这项技术，造福人类社会。