观察！百川智能CEO王小川：AI安全尚无近期威胁 现阶段应聚焦能力提升

百川智能CEO王小川：AI安全尚无近期威胁 现阶段应聚焦能力提升

北京讯（记者 张楠楠）6月14日，在北京智源大会上，百川智能CEO王小川发表演讲，谈及了AI安全问题。他表示，**现阶段的AI能力还很弱，**远达不到能够颠覆人类的程度，因此近期不存在安全问题。王小川认为，AI安全问题的关键在于能力，只有当AI能力发展到足以对人类社会造成重大影响时，安全问题才会真正凸显。

王小川指出，当前的AI主要应用于一些相对简单的场景，例如图像识别、语音识别、自然语言处理等，这些AI系统还无法进行复杂自主的思考和决策，因此很难对人类社会构成威胁。

**王小川强调，**与其担忧AI安全问题，不如集中精力提升AI能力。**他呼吁业界共同努力，**推动AI技术发展，让AI能够更好地服务于人类社会。

**除了王小川之外，**其他参会的嘉宾也对AI安全问题发表了各自的看法。**智谱AI CEO张鹏认为，**AI安全是一项长期挑战，**需要从技术、伦理、法律等多个方面入手进行综合治理。**月之暗面CEO杨植麟则表示，AI安全问题的核心是价值观问题，需要建立一套符合人类价值观的AI发展体系。

AI安全一直是备受关注的话题。**近年来，**随着AI技术的快速发展，**一些关于AI可能被滥用的担忧也不断涌现。**专家们呼吁，**业界应高度重视AI安全问题，**共同努力，确保AI技术能够安全可靠地应用于人类社会。

苹果谨慎拥抱生成式人工智能：力求突破技术瓶颈，打造安全可靠的应用场景

北京，2024年6月18日 - 在本周的全球开发者大会上，苹果公司展示了其备受期待的生成式人工智能（Generative AI）愿景，旨在将这项强大的技术应用于旗下产品和服务，为用户带来更加智能化的体验。然而，苹果也展现出审慎的态度，强调将把安全性和可靠性放在首位，避免落入生成式人工智能发展过程中常见的陷阱。

生成式人工智能拥有巨大的潜力，能够通过机器学习来自动生成文本、图像、音频和视频等内容。然而，这项技术也存在着一些潜在风险，例如生成虚假信息、制造深度伪造、或产生有偏见的输出等。

苹果公司显然意识到了这些风险。在大会上，苹果负责软件工程的高级副总裁Craig Federighi表示：“对于我们将生成式人工智能应用于哪些领域，我们非常非常谨慎。我们不会让这位少年去开飞机。”

为了确保安全性和可靠性，苹果采取了一系列措施。首先，该公司只会在特定情况下使用生成式人工智能，例如改写和总结电子邮件、管理日历以及与Siri进行更自然的对话。其次，苹果将对生成式人工智能模型进行严格的训练和测试，以确保其输出的准确性和可靠性。此外，该公司还将建立健全的伦理规范，避免生成式人工智能被滥用。

尽管苹果采取了谨慎的措施，但一些专家仍然对该公司在生成式人工智能领域的发展前景表示担忧。他们认为，苹果过于保守可能会错失发展良机，并落后于竞争对手。

例如，科技分析师Ming-Chi Kuo预测，苹果最早要到2025年才会推出搭载生成式人工智能芯片的设备。而与此同时，其他科技公司已经开始在该领域积极布局。例如，谷歌已经在其搜索引擎和Pixel手机中使用了生成式人工智能技术。

尽管存在争议，但苹果在生成式人工智能领域的谨慎态度值得肯定。这项技术拥有巨大的潜力，但也存在着不可忽视的风险。只有在确保安全性和可靠性的前提下，生成式人工智能才能真正发挥其价值，造福人类社会。

以下是文章的一些补充信息：

• 苹果公司已经在生成式人工智能领域进行了多年的研发投入。据估计，该公司拥有数百名从事该领域研究的工程师和科学家。
• 苹果公司已经在其一些产品中使用了生成式人工智能技术。例如，Siri可以根据用户的语音指令生成文本或翻译语言。
• 苹果公司未来计划将生成式人工智能应用于更多领域，例如照片编辑、视频创作和游戏开发等。

以下是文章的另一个潜在标题：

• 苹果试水生成式人工智能：谨慎前行，探索未来