169 Star 1K Fork 241

MindSpore / community

 / 详情

【开源实习】支持LLM对抗性提示词后缀生成算法

TODO
Intern
创建于  
2024-03-14 10:12

【任务分值】30分
【背景描述】
MindArmour套件对抗攻击算法库扩充,支持自动化LLM提示词注入攻击样本生成算法
【需求描述】
基于MindSpore复现 Zou A et.al. 2023提出的大模型自动化对抗攻击算法GCG,在Llama2, ChatGLM, GPT系列等常见大模型上实测攻击效果
【参考资料】
https://arxiv.org/abs/2307.15043
【验收标准】

  1. 完成算法复现,代码合入MindArmour;
  2. 输出测试报告,在主流的大模型上对攻击效果进行实测
    【任务技术要求】
    python, MindSpore > 1.9
    【PR提交仓库】
    mindarmour: A tool box for MindSpore users to enhance model security and trustworthiness. (gitee.com)
    【导师及邮箱】
    刘老师 liusiming4@huawei.com

评论 (9)

杨宇澄 创建了Intern
i-robot 添加了
 
intern
标签
展开全部操作日志

Please assign maintainer to check this issue.
请为此issue分配处理人。
@杨宇澄

感谢您的反馈,您可以评论//mindspore-assistant更快获取帮助,更多标签可以查看标签列表

  1. 如果您刚刚接触MindSpore,或许您可以在教程找到答案
  2. 如果您是资深Pytorch用户,您或许需要:
    与PyTorch典型区别 / PyTorch与MindSpore API映射表
  3. 如果您遇到动态图问题,可以设置mindspore.set_context(pynative_synchronize=True)查看报错栈协助定位
  4. 模型精度调优问题可参考官网调优指南
  5. 如果您反馈的是框架BUG,请确认您在ISSUE中提供了MindSpore版本、使用的后端类型(CPU、GPU、Ascend)、环境、训练的代码官方链接以及可以复现报错的代码的启动方式等必要的定位信息
  6. 如果您已经定位出问题根因,欢迎提交PR参与MindSpore开源社区,我们会尽快review
杨宇澄 修改了描述

@miaoyuxin2024 , 您认领的任务已经达上限,无法再次领取新的任务.

Shawny 负责人设置为杨宇澄

@pipiPdesu , 感谢您认领此任务, 请及时跟导师沟通, 导师审核通过后才能承担此任务, 否则任务无效.

i-robot 移除了
 
intern
标签
i-robot 添加了
 
intern
标签
i-robot 添加了
 
intern-task-assign
标签

@pipiPdesu , 恭喜您已成功领取该任务, 请及时处理任务. 认领任务>导师审核认领资格>处理任务>提交任务>导师审核>pr合入>获得积分.

i-robot 移除了
 
intern
标签
i-robot 移除了
 
intern-task-assign
标签
i-robot 添加了
 
intern
标签
i-robot 添加了
 
intern-task-assigned
标签

登录 后才可以发表评论

状态
负责人
项目
里程碑
Pull Requests
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
开始日期   -   截止日期
-
置顶选项
优先级
预计工期 (小时)
参与者(5)
1
https://gitee.com/mindspore/community.git
git@gitee.com:mindspore/community.git
mindspore
community
community

搜索帮助