【字節跳動Seed單獨設立大模型安全與對齊部門】10月13日

【字節跳動Seed單獨設立大模型安全與對齊部門】10月13日訊，字節跳動Seed近日發出內部郵件，宣佈將成立“Seed Model-Alignment&Preparedness”部門，由嚴林負責，彙報給Seed負責人吳永輝。原Responsible AI團隊及部分Chat團隊成員將轉入新部門。該部門的設立旨在加強安全與對齊方向的投入，對齊的核心是讓模型的行爲與人類意圖和安全約束保持一致，從而提升Agent Model（智能體模型）安全能力，以及防範CBRN（化學、生物、放射、核）等前沿能力風險。