Google将要求Android应用更好地控制人工智能生成的内容

Google将要求Android应用更好地控制人工智能生成的内容使用人工智能生成内容的应用程序必须在明年初添加一个按钮，用于标记或报告攻击性内容，这样才能继续在Google的PlayStore上架。Google希望举报过程尽可能简单，用户无需离开应用即可进行举报，这与目前已有的应用内举报系统类似。该公司表示，其人工智能生成内容政策涵盖人工智能聊天机器人、人工智能生成图片的应用程序，以及利用人工智能创建真人语音或视频内容的应用程序。托管人工智能生成内容的应用、仅使用人工智能总结书籍等资料的应用，以及将人工智能作为一项功能的生产力应用将不受新政约束。在Google看来，问题人工智能内容包括未经同意的深度伪造性材料、用于诈骗的真人录音、虚假或欺骗性的选举内容、"主要以满足性欲为目的"的人工智能生成应用程序以及恶意代码创建。Google在公告中承认，人工智能生成"是一个快速发展的应用程序类别"，给人的印象是，随着技术的不断发展，Google可能会重新审视其人工智能政策。除了有关人工智能生成内容的新规则外，Google还加强了PlayStore的照片和视频权限政策，限制应用程序访问数据的范围。该公司表示："用户设备上的照片和视频被视为用户的个人敏感数据，应该以最严格的隐私保护最佳实践来对待。这些敏感信息会使用户容易成为泄密者或被利用的目标，因此尽量减少这种访问有助于避免开发人员处理此类敏感数据的负担。"只有需要广泛访问照片和视频的应用程序才会继续获得一般权限，而使用媒体文件有限的应用程序则需要使用照片拾取器。...PC版：https://www.cnbeta.com.tw/articles/soft/1392279.htm手机版：https://m.cnbeta.com.tw/view/1392279.htm

美国宣布成立新NIST人工智能公共工作组 应对生成式人工智能风险

美国宣布成立新NIST人工智能公共工作组应对生成式人工智能风险短期目标为将工作组作为手机指导意见的工具，来完善NIST人工智能风险管理框架（AIRMF）来支持人工智能技术的开发。人工智能公共工作组的中期目标为支持NIST在人工智能相关的而是、评估和测量方面的工作。长远目标为在NIST人工智能风险管理框架的基础上，帮助解决生成式人工智能相关的机遇和挑战，以确保在人工智能应用程序开发和使用之前、之间和之后规避和管理风险。目前面对生成式人工智能，全球各个国家或地区反应不一，根据英国《金融时报》报道，欧洲议会正在准备对人工智能的使用实施约束措施并制定相关法案。...PC版：https://www.cnbeta.com.tw/articles/soft/1367111.htm手机版：https://m.cnbeta.com.tw/view/1367111.htm

Yelp将使用人工智能告诉你一家餐厅的汉堡是否好吃

Yelp将使用人工智能告诉你一家餐厅的汉堡是否好吃这可能包括提及某个地点的氛围、受欢迎的菜肴、便利设施等。其中一个例子（如本文顶部图片所示）将一家餐厅描述为"以经典芝士汉堡和实惠的价格而闻名的复古餐厅"。这听起来与亚马逊和Newegg等公司总结评论的做法类似，但Yelp的版本不够全面，因为它没有挑出用户提出的任何优点和缺点。Yelp消费者产品高级副总裁阿基尔-库杜瓦利-拉梅什（AkhilKuduvalliRamesh）介绍说，人工智能摘要的显示将取决于该公司用于突出用户反馈的软件推荐的"可靠数量的近期评论"。人工智能驱动的摘要只适用于餐厅、食品和夜生活行业的公司。Yelp还在iOS应用程序中增加了其他一些功能，包括一个新的首页信息源，它使用人工智能来显示更多与本地企业相关的内容和照片。此外，Yelp还对iOS上的搜索进行了改版，在搜索结果页面中加入了更多照片，例如展示用户经常搜索的食物的走马灯。这样，用户在查找特定内容时，就可以轻扫显示本地餐馆热门菜肴（如披萨、拉面或玉米饼）照片。至于Android应用，Yelp只推出了去年在iOS上推出的"给我惊喜"选项。Android设备上的用户要等到今年晚些时候才能享受到人工智能摘要、大修后的搜索结果和改进后的首页内容。...PC版：https://www.cnbeta.com.tw/articles/soft/1415137.htm手机版：https://m.cnbeta.com.tw/view/1415137.htm

《人工智能伦理治理研究报告（2023 年）》今天发布

《人工智能伦理治理研究报告（2023年）》今天发布26日，中国信通院在“2024中国信通院ICT深度观察报告会科技伦理治理分论坛”上发布了《人工智能伦理治理研究报告（2023年）》。报告认为，目前，人工智能引发的伦理挑战已从理论研讨变为现实风险。在技术研发阶段，由于人工智能技术开发主体在数据获取和使用、算法设计、模型调优等方面还存在技术能力和管理方式的不足，可能产生偏见歧视、隐私泄露、错误信息、不可解释等伦理风险。在产品研发与应用阶段，人工智能产品所面向的具体领域、人工智能系统的部署应用范围等将影响人工智能伦理风险程度，并可能产生误用滥用、过度依赖、冲击教育与就业等伦理风险。对于人工智能生成内容、自动驾驶、智慧医疗等典型应用场景，需要根据风险发生频率、影响范围、影响程度等评估主要风险。

【书名】边缘计算与人工智能应用开发技术

【书名】边缘计算与人工智能应用开发技术【作者】廖建尚等【格式】#epub#mobi#azw3#pdf【分类】#计算机#人工智能#编程【简介】本书详细介绍边缘计算和人工智能技术。全书采用项目式开发的学习方法，通过贴近日常生活的开发实例，由浅入深地介绍边缘计算与人工智能的相关知识。书中每个案例均有完整的开发过程，并给出了开发代码，读者可在这些案例的基础上快速地进行二次开发。

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃

人工智能对人工智能生成的内容进行训练将导致人工智能崩溃用于训练大型语言模型的数据最初来自人类来源，如书籍、文章、照片等，这些都是在没有人工智能的帮助下创建的。但随着越来越多的人使用人工智能来制作和发布内容，一个明显的问题出现了：当人工智能生成的内容在互联网上扩散时，人工智能模型开始对其进行训练。研究人员发现，“在训练中使用模型生成的内容会导致所产生的模型出现不可逆转的缺陷。”他们研究了文本到文本和图像到图像的人工智能生成模型的概率分布，得出结论：“从其他模型产生的数据中学习会导致模型崩溃——这是一个退化的过程，并且随着时间的推移，模型会忘记真正的基础数据分布。”他们观察到模型崩溃发生得如此之快：模型可以迅速忘记它们最初学习的大部分原始数据。这导致它们随着时间的推移，表现越来越差，错误越来越多。来源，来自：雷锋频道：@kejiqu群组：@kejiquchat投稿：@kejiqubot