|
打印本文
2. 研究团队在六种商业AI工具中发现了安全漏洞，并成功对每种工具进行了攻击。
3. 发现这些漏洞可能危及数据库安全，揭示了人们如何使用AI学习编程语言来与数据库互动的潜在风险。
站长之家 10月25日 消息:近日，英国谢菲尔德大学的研究人员发表的一项研究揭示了一项令人担忧的发现:人工智能（AI）工具，如ChatGPT，可以被操纵，用于生成恶意代码，从而可能用于发动网络攻击。
该研究是由谢菲尔德大学计算机科学系的学者进行的，首次证明了Text-to-SQL系统的潜在危险，这种AI系统可以让人们用普通语言提出问题，以搜索数据库，广泛应用于各行各业。
研究发现，这些AI工具存在安全漏洞，当研究人员提出特定问题时，它们会生成恶意代码。一旦执行，这些代码可能泄露机密数据库信息，中断数据库的正常服务，甚至摧毁数据库。研究团队成功攻击了六种商业AI工具，其中包括高知名度的BAIDU-UNIT，该工具在众多领域中得到广泛应用，如电子商务、银行业、新闻业、电信业、汽车业和民航业等。
这项研究也突出了人们如何利用AI学习编程语言以与数据库互动的潜在风险。越来越多的人将AI视为提高工作效率的工具，而不仅仅是对话机器人。例如，一名护士可能会向ChatGPT提出编写SQL命令的请求，以与存储临床记录的数据库互动。然而，研究发现，ChatGPT生成的SQL代码在许多情况下可能对数据库造成损害，而护士可能在不受警告的情况下导致严重的数据管理错误。
此外，研究还揭示了一种可能的后门攻击方法，即通过污染训练数据，在Text-to-SQL模型中植入“特洛伊木马”。这种后门攻击通常不会对模型的性能产生一般性影响，但可以随时触发，对使用它的任何人造成实际危害。
研究人员表示，用户应该意识到Text-to-SQL系统中存在的潜在风险，尤其是在使用大型语言模型时。这些模型非常强大，但其行为复杂，很难预测。谢菲尔德大学的研究人员正在努力更好地理解这些模型，并允许其充分发挥潜力。
该研究已经引起了业界的关注，一些公司已经采纳了研究团队的建议，修复了这些安全漏洞。然而，研究人员强调，需要建立一个新的社区来对抗未来可能出现的高级攻击策略，以确保网络安全策略能够跟上不断发展的威胁。
11.11云上盛惠！海量产品 · 轻松上云！云服务器首年1.8折起，买1年送3个月！超值优惠，性能稳定，让您的云端之旅更加畅享。快来腾讯云选购吧！
ChatDOC是一个可以快速从文档中提取、定位和总结信息的文件阅读助手，能够理解文本、表格和图像。ChatDOC可以帮助用户从各种格式的文档中获取所需的信息，如.pdf，.doc，.docx，.md，.epub，.txt，网站，扫描文件等。引用来源:ChatDOC可以为每个回答提供引用来源，让用户可以验证AI的解读是否准确。
正在悄然切换，进入AI时代。现在打开淘宝，搜索“淘宝问问”，你可以直接跳转到一个全新的页面。它还不是最终形态，如何让电商和AI更好地结合，找到那条打通最佳的用户体验和购物链路的路径，才是真正的挑战。
IBM研究人员最近进行了一项研究，结果显示，OpenAI的ChatGPT在生成虚假电子邮件方面表现出惊人的能力。图源备注：图片由AI生成，图片授权服务商Midjourney他们在一家真实的医疗保健公司中测试了ChatGPT生成的钓鱼电子邮件，以查看其是否能够像人工制作的电子邮件一样成功欺骗人们。面对这一电子邮件欺骗的威胁，IBM提出了一些建议，从常识性建议如在看起来可疑的情况下拨打所谓发件人的电话，到较无效的建议，如寻找“更长的电子邮件”，因为它们通常是人工智能生成文本的标志。
最新研究表明，人工智能工具ChatGPT在遵循抑郁症治疗标准方面可能比医生更胜一筹不受性别或社会阶层偏见的影响。这一发现是通过一项研究在英国医学杂志旗下的开放获取期刊《FamilyMedicineandCommunityHealth》上发表的。”这一研究为人工智能在卫生保健领域的应用提供了新的可能性，但也引发了一系列伦理和道德问题需要进一步讨论。
在我二十多岁时，笑容常挂在我的脸上。最初我并未察觉，但和我熟悉的人都会注意到这一点，大多数情况下，这被视为一种正面的特质。这个工具箱仍然会牢牢地依附于一个真实的人类，即使他的薪资很高，也可能并不总是面带微笑。
苹果对于AI工具的快速发展，特别是OpenAI的ChatGPT，感到非常焦虑，正急于推出竞争性的AI功能，尤其是改进Siri。在最近的开发者大会上，虽然苹果没有明确提及AI，但却大量谈论了“机器学习”在众多苹果产品中的应用，如iOS17中的改进自动校正以及引人注目的“AppleVisionPro”计算机视觉功能。至于在客户应用中的使用情况尚不清楚，不过这一举措表明苹果对于AI的投资非常大。
一项最新研究警告大众，不要在心理学和心理治疗领域使用ChatGPT等大型语言模型。研究人员认为，这些模型在生成心理上有用的信息方面存在根本性的限制，同时缺乏同理心和对人类理解的能力。他们看到了这些模型的潜力:“我们认为，尽管大型语言模型有潜力推动心理测量、实验和实践，但它们还没有准备好用于最具变革性的心理应用，但进一步的研究和发展可能会实现这种用途。
在接受德国商业报纸Handelsblatt采访时，比尔·盖茨表达了对生成式人工智能发展轨迹的担忧。比尔·盖茨认为，生成式AI如ChatGPT已经在功能上达到了极限，未来的发展将主要集中在完善不是增加新的主要功能，包括OpenAI的GPT-5在内不会有太大的改进。他还提到他对利用人工智能技术增强电网的公司进行的投资，强调解决全球挑战的承诺。
近日有报道指出，备受诟病的游戏《魔戒:咕噜》的开发团队DaedalicEntertainment声称，此前Nacon发布的道歉信是使用AI语言模型ChatGPT生成的，开发团队对此毫不知情。报道还透露了《魔戒:咕噜》在开发过程中遇到的困境。《魔戒:咕噜》已在PC、PS4、PS5、XboxOne和XboxSeriesX/S平台上架，Switch版本稍后发行。
欧洲汽车巨头Stellantis日前宣布，旗下DSAutomobiles将在欧洲首次在其车辆中试用ChatGPT，这一人工智能服务将为驾驶员提供「对话体验」，通过其声控DSIris信息娱乐系统增强旅行体验。这一功能已经可以远程激活，适用于2万名特定DS车型的车主。DSAutomobiles强调，ChatGPT的回应可能不总是准确、正确或客观的。
IBM watsonx Code Assistant利用生成式AI加速开发,同时保持信任、安全和合规性的核心原则。开发人员和IT运营商可以加速应用程序现代化工作,并生成自动化来快速扩展IT环境。watsonx Code Assistant由IBM的Granite基础模型提供支持,这些模型包括针对代码的最先进的大语言模型,旨在通过基于自然语言请求或现有源代码的AI生成建议来帮助IT团队生成高质量代码。
通过使用 AI 进行照片增强和放大的突破性本地 AI 技术，改变用户使用 AI 提升和放大照片的方式，同时确保用户隐私和便利性，无需依赖云服务。 使用 Retake 可以提升和恢复模糊、噪点、低分辨率的照片，就像重新拍摄超高清照片一样。 RETKE 突破性的本地 AI 技术的好处： 1. 担心照片隐私的问题，因为您无需将照片上传到云端，所有操作在您的设备上完成。 2. 不依赖互联网连接，因此您可以随时随地使用 RETKE 进行照片增强。 3. 提供比其他基于云的应用更快速的性能和更好的体验。 主要功能： - 超分辨率：将模糊、像素化、噪点的照片转变为高清。 - 人脸恢复：提升和恢复低分辨率人脸中的自然细节和纹理。 - AI 照片增强：减少噪点，恢复真实细节，获得高 ISO 和低光照条件下最佳的图像质量。 - 卡通人像：使用各种令人惊叹的基于 AI 的卡通风格将您的照片转化为卡通人像。 订阅以无限制地访问高级功能。 - 订阅时长：月、年、终身 - 确认购买后，您的支付将立即通过您的 iTunes 账户进行扣费。 - 您可以在购买后从您的账户设置中管理您的订阅并关闭自动续订功能。 - 您的订阅将自动续订，除非您在当前周期结束前至少 24 小时关闭自动续订。 - 续订费用将在当前周期结束前的 24 小时内扣款。 - 取消订阅时，您的订阅将保持激活直至期限结束。自动续订将被禁用，但当前订阅不会退款。 - 如果提供免费试用期，未使用部分将在购买订阅时失效。
United Market是一个将艺术家和制作人联合起来，利用AI技术策划高质量音乐作品的平台。通过简化每个策划作品的合同，使用智能合约作为额外的安全层，保护合作伙伴之间的合作关系，确保所有合作者的安全。我们帮助艺术家、音乐制作人和A&R专注于音乐创作，快速签署合同，确保不会错过任何细节。我们的平台简化了整个过程，让您无需创建多个电子邮件帐户来接收合作者的音乐作品。节省时间，专注于您的音乐创作，创造最好的音乐作品。
Jina Embeddings V2 Base是一种英文文本嵌入模型，支持8192个序列长度。它基于Bert架构（JinaBert），支持ALiBi的对称双向变体，以允许更长的序列长度。该模型在C4数据集上进行了预训练，并在Jina AI的超过4亿个句子对和负样本的集合上进行了进一步训练。该模型适用于处理长文档的多种用例，包括长文档检索、语义文本相似度、文本重排序、推荐、RAG和LLM基于生成式搜索等。模型具有137百万个参数，推荐在单个GPU上进行推理。
Devwares是一个为开发者和设计师提供各种高质量工具和资源的平台。平台提供Bootstrap和React组件库、管理面板和UI套件等设计资源,可帮助开发者快速构建响应式网站和应用。平台还提供Tailwind CSS可视化搭建工具,使用拖放方式高效设计网页。所有资源免费或收费提供,质量精良,可以缩短开发周期,提高工作效率。
Chat GPT Diagram是一个功能强大的浏览器扩展，旨在通过无缝转换Mermaid、PlantUML、SVG和HTML代码块为视觉吸引力的图片，提升你在聊天平台上的交流体验。它自动检测聊天对话中的代码块，并立即将它们转换为视觉上令人赏心悦目的图片，使你的讨论更加引人入胜和易于理解。通过Chat GPT Diagram，你可以方便地以清晰简洁的方式传达复杂的想法，无需额外的工具或软件。
Vibe Shift是一款Slack插件，可以轻松改变你的消息的语气。无论你需要随意、专业、直接还是其他语气，Vibe Shift都可以帮助你确保每次传达的消息都是正确的。它简化了沟通流程，节省了时间，提高了沟通效果。定价为每月20美元，无限用户，无限消息请求，消息可直接发布到频道或私聊。
它可以帮助数据分析师自动收集、清洗和分析数据，提供更快的洞察力；利用机器学习算法识别大数据集中的模式和趋势；生成报告和可视化图表，为更好的决策提供易于访问的数据洞察力。同时，它还可以帮助商业战略师自动收集市场研究和趋势分析数据，利用机器学习算法识别模式和洞察力，为制定创新战略和做出明智决策提供创造力和背景。此外，它还可以帮助高管助理自动化重复性任务，如安排会议和管理电子邮件；利用机器学习算法进行研究，支持决策；提供个性化的触感和批判性思维，以找到解决复杂问题的解决方案。
Permar是一款基于AI的网站智能分析工具,能够对网站页面和营销渠道进行全面审查,通过智能分析找到可能导致转化率低下的痛点,并给出具体的优化建议,让企业网站轻松实现高转化率。产品的主要功能包括:智能化网站审核、多维度分析营销渠道、精准定位转化率痛点、AI生成的优化建议方案、支持A/B测试实时优化等。不同于传统人工审核需耗费大量时间和精力,Permar使用前沿AI技术对页面内容、交互方式、视觉呈现等多个维度进行智能分析,大大提升工作效率。该产品适用于各类企业官网、电商网站、营销活动页面等,可以帮助企业快速定位页面痛点、提高网站转化率。
Tapasom是一个基于NFT和AI技术的创新平台,致力于消除界限,拉近充满活力的影响力者、内容创作者和具有前瞻性的品牌之间的距离。该平台可以革新内容创作者、影响力者和品牌合作的方式,创造强大的影响力和冲击力。平台为品牌提供了一个网络,可以真实地接触对目标受众有影响力的创作者,从而扩大品牌影响力。同时,创作者也可以通过该平台探索创新合作机会,挖掘自己的创作潜力。影响力者则可以通过与理念一致的品牌合作,放大自己的影响力。平台还利用NFT为内容创作提供保证和变现机会。主要功能包括AI驱动的流式聊天、NFT内容真实性和变现、品牌与创作者的无缝协作等。
QR Code AI Art Generator是一款基于人工智能的工具，可以将普通的QR码转化为艺术作品。它使用先进的图像生成算法，将QR码转化为独特的艺术风格，让QR码不再单调乏味。该工具具有以下优势：1. 独特的艺术风格，使生成的QR码作品更具个性；2. 高效的生成速度，快速生成大量的艺术QR码；3. 简单易用的界面，无需专业设计技能即可操作。QR码AI艺术生成器定价灵活，用户可以根据需求选择免费版或付费版。它适用于个人用户、设计师、广告公司等多种场景。
CrestGPT 是一款先进的 AI 助力内容创作工具，旨在消除写作困难，为您的在线存在注入动力，并能在几秒钟内生成强大而引人注目的内容。
MindWhisper是一个强大的AI第二大脑,它可以即时响应你的问题并提供有价值的见解。你可以和它进行自由聊天,它会帮助梳理思路,提供写作灵感,以及回答生活和工作中的疑问。关键功能包括:支持自然语言交流、含丰富知识库、可搜索聊天记录、支持共享和协作等。MindWhisper可增强你的创造力和生产力,成为你的思维伴侣。
NVAS3d是一个用于估计包含多个未知声源的场景中任何位置的声音的项目，通过使用多个麦克风的音频录音和场景的3D几何和材料，实现了新视角声学合成。
ResumeGPT是一款利用AI构建完美简历的工具。它具有智能适应简历的功能，可以根据每个职位需求自动调整简历内容。通过与主要招聘网站的无缝集成，您可以轻松整理和管理所有的职位申请。除此之外，它还提供了联系人和公司的管理功能，优化LinkedIn个人资料的工具和模板等。RESUMEGPT可以帮助您提升职业发展，提供完整的求职解决方案。
Genius Ai Keyboard是一款最终为您的iPhone打字提供帮助的键盘助手！我们先进的人工智能算法帮助您比以往更快、更准确、更有风格地书写。无论您是撰写快速消息还是长篇文档，Genius Ai Keyboard都能满足您的需求。此外，我们的应用还包括各种有用的功能，如语法和拼写纠正、单词预测，甚至是表情符号和GIF建议。此外，我们简洁直观的设计使使用Genius Ai Keyboard变得轻而易举。立即下载Genius Ai Keyboard，亲身体验AI辅助打字的强大功能吧！
FineTalk是一个利用ChatGPT训练营销对话机器人的在线平台。它可以快速创建个性化的聊天机器人,通过训练网站、文档等数据,使机器人了解您的业务、产品并能及时准确地回答客户查询。主要功能包括多语言支持、与人合作模式、自定义外观、集成Slack等。使用简单,提供免费和收费版本,可满足不同业务需求。
Aire是一个革命性的平台，结合了OpenAI的ChatGPT 3.5和Langchain的力量，提供无缝、实时的面试体验。利用Aire的尖端技术，提升技能，动态参与，释放潜力。我们的网站利用OpenAI的强大功能，提供卓越的面试准备平台，帮助用户提升技能，在工作面试中脱颖而出。Pinecone为我们的网站提供智能搜索功能，使用户能够快速浏览庞大的面试问题数据库。ChatGPT 3.5 Turbo驱动我们网站上的交互式对话体验，让用户能够进行动态和自然的面试模拟，并获得智能回答。利用Aire的力量，引领您通往成功的道路。
图宇宙是一款高品质智能设计平台，提供电商抠图、免费设计等服务。用户可以一键生成多平台、多尺寸的设计结果，享受高品质设计服务。图宇宙臻选素材，正版授权，安心商用。
AlgoHack 是一个 AI 工具，能够在几秒钟内为您提供算法任务的解决方案，无论是现场编码面试还是个人学习过程。AlgoHack 将流畅的交互界面与 AI 伙伴相结合，让您能够在不离开当前标签页的情况下破解任务。
|