Tag: AI Ethics

All the articles with the tag "AI Ethics".

• Reason2Attack: Jailbreaking Text-to-Image Models via LLM Reasoning

  Published: 4 May, 2025 |  at  04:27 PM

  

  58.67 🤔

  本文提出Reason2Attack方法，通过基于Frame Semantics的CoT示例合成和带攻击过程奖励的强化学习，增强LLM的推理能力，以高效生成对抗性提示实现对T2I模型的越狱攻击。

• A closer look at how large language models trust humans: patterns and biases

  Published: 4 May, 2025 |  at  04:29 PM

  

  56.91 🤔

  本研究通过模拟实验首次揭示大型语言模型对人类的隐性信任模式，显示其类似于人类受可信度维度影响，但存在模型异质性和人口统计学偏差。

• SuperARC: An Agnostic Test for Narrow, General, and Super Intelligence Based On the Principles of Recursive Compression and Algorithmic Probability

  Published: 4 May, 2025 |  at  04:26 PM

  

  54.84 🤔

  本文提出SuperARC测试框架，通过算法概率和Kolmogorov复杂度的原理，设计了一个客观的AGI和ASI评估方法，证明递归压缩等价于预测，并展示了LLMs的局限性。

• Beyond Public Access in LLM Pre-Training Data

  Published: 4 May, 2025 |  at  04:32 PM

  

  53.67 🤔

  本文通過DE-COP成員推斷攻擊方法，使用O'Reilly書籍數據集證明OpenAI的GPT-4o可能訓練過非公共版權內容，突顯了LLM預訓練數據中非公共數據使用增加的趨勢及加強透明度和許可框架的必要性。

• Comparing Uncertainty Measurement and Mitigation Methods for Large Language Models: A Systematic Review

  Published: 4 May, 2025 |  at  04:31 PM

  

  50.24 🤔

  本文通过系统综述和实证基准测试，比较了LLMs的不确定性量化与校准方法，揭示了这些方法的有效性、局限性，并为未来研究提供了关键洞见。