Project256

禁用词处理在测试过程中，发现经常在对话中出现「……」的情况，经过分析剧本中有至少2K个类似回复。尽管此类回复配合CG图像能够从侧面表现人物心态的作用，但在AIGC工作中需要正面回答的回复。因此需要将剧本中相关字符去除，类似的还有***符号等。 ... 阅读全文…

背景近期服务器无法访问HuggingFace，而且我想薅免费羊毛，因此在服务器上部署了命令行式SSR。 但明明配置完毕，就是不能curl和git clone https协议的地址。就像终点就在眼前，但前方有一堵空气墙挡着。 ... 阅读全文…

准备微调书接上回，已经把CLANNAD剧本进行解析，并处理为LLaMA能够微调的JSON文件，接下来就开始实际操作LLaMA的微调工作。 由于微调需要的资源比较多，而且可能要花好几个小时，不可避免退出Colab标签页，因此化身氪金玩家转战AutoDL。 转战AutoDL的部分原因也有训练速度要比Colab快一些，5月份时曾经训练个狗脸识别模型，AutoDL的训练速度要完爆Colab。果然是人... 阅读全文…

准备微调数据今天计划完成如下目标： 读取文件 统计数据 清洗数据 构造微调JSON 尝试微调LLaMA大模型 代码和运行结果放在Github中 解析角色发言由于Java是我每天吃饭用的工具，虽然Python很香，但我选Java。毕竟准备微调数据JSON是一次性工作，不参与模型训练中，所以直接用比较顺手的工具解析并构造即可。 首先定义两个核心数据类，第一个是角色发言，每个对象存储角色名称以... 阅读全文…

今日工作读大佬翻译的Paper：[论文] LLaMA 2：开放基础和微调聊天模型 这位携程大佬中英双语，还翻译了一堆大模型相关论文，respect。 Huggingface由于某些神奇的力量，无法git clone，因此只能用Colab或是国内能够学术加速的研发平台。（无法用公司内部的机器……十分难受） 部署部署其实很简单，但硬件要求比较高。根据项目说明中的Colab部署方法，就能快速启动一... 阅读全文…

序章三年前我启动了一个项目，名叫CLANNAD_LSTM，计划使用LSTM续写CLANNAD剧本。 当时刚上完研一下学期的CV及NLP相关课程，相比于研一上学期倾向于数学推理教学人工智能，我更喜欢研一下学期在工程实践中学习人工智能相关技术。由于疫情原因，研一下学期可以晚上加班+录课，早上补课，半夜再写作业，忙得不亦乐乎。当然之前的学校回忆再开一篇也来得及，总之是非常充实，甚至充实到开多线程都... 阅读全文…

什么是STAR原则STAR原则是Situation（情景）、Task（任务）、Action（行动）和Result（结果）四个英文首字母的组合。 STAR原则常用于写简历以及每个季度总结汇报文档中描述曾经做过的工作。我15年3月份准备投实习简历前，写出的简历非常”学生气息“，没有把核心要点展示出去，也没有任何的成果量化。因此当时ACM实验室的秦老大（学长）还有几位学长手把手地帮我修简历，其中提... 阅读全文…

前言开始启动一个项目之前，除了分析需求外第一件事情要做什么呢？我认为是”值不值得做“。而”值不值得做“需要大量的经验作为支撑，不仅要看到做成功之后能有多少回报，也要预测如果失败了损失会有多少。 以技术栈迁移为例，假设你的公司被一家头部公司收购了，为了拉通对齐集团和你的公司全套技术栈，需要6个月来ALL IN技术栈迁移工作：1个月出差聊需求对链路、1个月各领域详细设计、2个月开发、1个月全链路... 阅读全文…

前言我目前在探索低成本创业的方法，这也是计算机领域从业者的一大优势。只需要一台电脑，申请一台服务器，注册一个域名，就可以做出一个MVP去试水、去验证项目的关键假设。 当然我之前跟最好的朋友也在探索业余项目开发之道，但并没有理想中的那种让我们财富自由、走上人生巅峰。Github被废弃的项目也有很多，足以见得很容易一腔热血启动一个项目，但如何持续发展、如何活下去是最大的课题。 当然，在时间”无限... 阅读全文…

关于写作写作其实很简单，一支笔、一张纸甚至一台电脑即可。我其实在公司内网写了很多篇总结和分享的文章，每年输出的文字量十余万计。虽然在Github也偶尔写一些指南文章，但为什么一直没有动手去开始并坚持写作这件事呢？我认为原因如下： 沉迷于造轮子博客的后端和前端必须是自己一行一行代码写出来的，不能用现成的框架。为了满足自己的低效代码创作欲，淡化了“写作”这个主要目标。这点跟在公司里面为了造轮子... 阅读全文…