RAG

image-20240830215915760

image-20240830220433328

image-20240830220636471

image-20240830221605893

RAG的3个阶段

image-20240830222212990

image-20240830222915743

image-20240830223139381

针对输出作修改，在beamseach的时候，有k个候选句子，让它们和检索内容做分数计算，取高的。或者修改损失函数

image-20240830223449884

image-20240830224256536

image-20240830224633171

  • 只检索diff中的变更部分，会不会有性能提升
  • AST检索，会不会有性能提升
  • 训练集对msg进行序列模式提取，将其作为特征加入到输入一起训练微调，是否能提升效果？新来1个msg先对其进行sp分类，然后将其作为输入
  • BM25检索出来的东西放到Input究竟对模型会不会有提升

image-20240831175638977

image-20240831175829236

image-20240831175857758

image-20240831180747141

image-20240831181118981

image-20240831181305833

image-20240831193249665

image-20240831193945684

image-20240831194134622

image-20240831194509516

image-20240831195115995

image-20240831195231293

image-20240831195400983

image-20240831195426801

image-20240831195556147

image-20240831200013345