

Photo: Arturo Mendez
ルール違反の近道が確実に得になるエージェント課題を構築したプレプリントは、記録された違反に一律の罰則を科す単純な方法で、こうした違反が大きく減ることを示した。
arXiv プレプリント · 2026年11月9日

Cutaway engine painted red at the cut: impeller, gears and shafts exposed · Photo: William Warby
汎用 AI モデルが操るロボットアームは9〜77%の試行で危害のおそれがあり、1つの安全規則を共有するカメラ式の関門で、試したすべてのモデルの危害が減ったとするプレプリント。
arXiv プレプリント · 2026年11月10日

Inside a tape deck in low light: the head drum with a red glow, tape guides and circuit board · Photo: Eytane Debruyne
プレプリントが英語の有害プロンプトを最大60言語の穴埋めテンプレートに変え、英語では拒むモデルの一部が翻訳後には応じることを見いだした。
arXiv プレプリント · 2026年10月29日

An engine wrapped in dense steel plumbing and wiring, museum hall behind · Photo: Meizhi Lang
ByteDance Seed のプレプリントは特徴の活性をエキスパートごとに厳密に分け、大半の特徴は1つか2つのエキスパートが担うと報告し、主題の名付けは別の AI に任せた。
arXiv プレプリント · 2026年11月5日A central challenge in adapting large language models (LLMs) is capability preservation: an adaptation can achieve its target while degrading general capabilities. We introduce CurvDelta, a scalable framework that incorporates the preservation constraint into the parameterization of the model update. By analyzing the local geometry of…
NPU design-space exploration for LLM inference mainly relies on an expensive simulator that often returns only scalar feedback such as latency and power. Such feedback can rank evaluated configurations, but gives little information for deciding why a configuration is slow or which architecture parameter should be changed next. This…
Previous work has shown that alignment training on individual LLM agents can fail to transfer to multi-agent settings. We investigate the underlying mechanisms for this failure, and explore interventions to preserve alignment transfer to multi-agent LLM teams. We focus on two software-engineering tasks (sepsis triage, a news recommender)…
Tool-using agents act on email, files, and payments, so an instruction hidden in a web page or a shared document can make an agent send data or money to an attacker. Many runtime defenses put a language model on the decision that lets an action through, so the decision depends on a model that may read the attacker's text and adds model…