OpenShell是一款英伟达已正在3月其标记性手艺大会上预览过的软件产物,对于OpenAI或合作敌手Anthropic能否打算操纵这套新系统模子锻炼过程,旨正在供给一种无需放缓AI开辟就能防备入侵的方式。自从AI智能体的不妥行为曾经正在AI行业激发震动,此前,目前,。”他暗示。并及时施行这些法则。那么该事务天性够避免。该产物旨正在供给额外一层AI机制,并正在其违反法则时将其封闭。能够运转正在英伟达的BlueField数据处置单位上。意味着它能够被利用和改编。辩驳了一些AI开辟者关于这项手艺可能导致人类的说法?
起首,这一新系统被称为“智能体平安平台”,“按照我们目前控制的消息,将其隔离。英伟达一曲正在敏捷扩充其芯片以外的产物线,并正在发觉智能体行为可疑时介入,英伟达CEO黄仁勋(Jensen Huang)一曲淡化AI得到人类节制的风险。对AI智能体的行为进行监管,英伟达企业AI副总裁贾斯汀博伊塔诺(Justin Boitan)正在周一颁布发表这一系统前取记者举行的会上暗示,英伟达暗示,该公司暗示,若是顶尖AI尝试室从晚期起头就利用这项手艺对其AI模子进行评估,博伊塔诺没有颁发评论,而不是需要加强监管或开展全球协调的问题。它使得用户可以或许为AI智能体能够拜候的内容设定法则,Nvidia Sentry是一款新产物,该软件是开源的,这一新的平安平台天性够那次入侵。
