因此我认为整个行业需要向更加严格的安全学科发展。我们有安全系统有严格的操作安全纪律这包括许多方面不仅是操作纪律还有我们今天产品和部署的安全性例如有害偏见、假信息、错误信息分类器等。 主持人： 我关闭了我的手机和提示音。 ： 继续。不仅是今天模型的对齐我们使用人类反馈进行强化学习但也要考虑模型随着能力增强的长期对齐问题这是一个非常关注的研究领域。 主持人： 但这在 中一直存在。我认为因为你们是当前的领先公司所以这个问题更加突出。但人们担心的是安全问题 的创立目的之一就是确保安全。 上周有 名现任和前任 和谷歌 员工联名发表公开信呼吁公司允许他们警告关于先进 的风险。
这并不新鲜但在这种情 冰岛电话号码表 况下员工们说“广泛的保密协议阻止我们表达担忧而公司可能未能解决这些问题。” 你对此有什么回应？人们担心报复而我不想谈论股票的问题因为我知道你们道歉并纠正了这一点。但如果他们有担忧难道不应该让他们表达吗？我知道不同人有不同的看法。 ： 当然我们认为辩论非常重要能够公开表达这些担忧并讨论安全问题也非常重要。自 成立以来我们一直非常开放地讨论假信息问题从 - 时代开始这就是我们早期研究的问题之一。 过去几年技术进步令人难以置信速度之快超乎预期这也增加了人们对社会准备情况的普遍焦虑。我们看到科学的发展方向所以可以理解人们对未来的担忧。
具体来说我们在 所做的工作和部署这些模型的方式我认为我们有一支出色的团队我们非常安全地部署了这些模型我对此感到非常自豪。鉴于技术进步的速度和我们自身的进展专注于安全、保护框架非常重要我们需要考虑如何看待前沿模型训练和部署的风险。 主持人： 你如何应对他？我理解这种动态。这在谷歌、早期的微软和亚马逊都发生过。随着公司发展事情会发生变化。谷歌早期非常混乱k 经历了很多 我甚至无法数清。有很多人走过那条路。这是很正常的但你如何应对 ？ 例如他投资了一些外国公司一些公司与 有业务往来。他投资了 . 亿美元在一家名为 的能源公司这是一个很酷的公司他们目前正在与 谈论大量的电力需求。