2024年12月总结与展望

11月任务回顾

2024年最后一个月，主要任务就一个：把之前深度学习所有相关知识整合、查漏补缺、复现Coding

今天5号了，这个月的任务除了复习最后的三门课之外，更多的精力要分配给如下任务：

• 卷积神经网络学习(还剩VGG、ResNet没有实现)
• 语言神经网络学习
• 多读经典论文、多复现代码(循环神经网络、Attention、Transformer、BERT掌握)
• 精进python、C++(必须精通使用)

12月完成度

12与集中在RNN、注意力机制和Transformer复现上

• 经典的卷积神经网络复现✅

• 语言神经网络学习 - 仍在学习中，结合NLP期末复习

• 循环神经网络✅

• Attention✅

• Transformer✅

• BERT(集中精力都放在了Transformer上) ❌

1月假期计划安排

真正的高手都是把一个程序反复写，每一遍都和前一遍不一样，有提高有改进；做设计要优先于细节完善 —— 杨力祥

细节实现前，多画图多做设计！

假期需要完成的主要任务 - List：

1. 继续完善 秋季学期所有的学科笔记与知识梳理/真题复现，可选择性的放到CSDN或git上，想着做几个高质量有价值的git仓库或者CSDN文章
2. 继续完善 C++课程的五子棋程序，争取学会如何在C++编程中使用pytorch，使用神经网络训练五子棋的AI
3. 继续完善 大数据作业实验，参考珊瑚书完成对分布式向量数据库的实现(大工程)
4. 继续完善 深度学习知识体系，对经典的代码反复研读复现，做一些小应用
5. 继续完善 Transformer架构复现与应用，认真学一下数据如何在torch上进统一计算与模型训练代码的编写
6. 继续完善 博客网站上的全部文章，争取把所有内容做实
7. 继续学习 大模型领域的知识与实践：模型的学习(BERT、CLIP、BLIP)和Agentic RAG应用的技能修炼。RAG应用是关乎饭碗型的任务，务必持续学习深入，扎实提升技能！
8. 继续研读 领域内的经典论文