瞭望直面价值对齐挑战

瞭望直面价值对齐挑战

从安全角度考虑，在推动对AI的价值对齐之前，应先就对齐的价值观进行协调统一，但大到生死观，小到对美丑的认知，全球的多元文化背景和价值体系使得价值对齐的标准统一进程难以推进随着人工智能开始承担更复杂的任务，人类开展对齐工作甚至是简单评估，都将变得难以想象地复杂文|王焕超过去一年多，以ChatGPT为代表的大语言模型（LLM）集中爆发，并衍生出文生图、文生视频、文生音乐等多模态应用，让人们感受到了人工智能蕴含的无限潜力与可能性。有预测认为，2032年，生成式人工智能市场规模有望增长至1.3万亿美元，年复合增速将达到43...