这周其实又是调整那个模型,还没触及到最核心的工作部分,真是坑死自己了!,不小心删了不该删的东西,明明都快弄好了,不过好处是我后面又加了个BN层并且又经过一系列玄学调整然后效果已经更加可以了。。。希望这会是我最后一次调这个混沌的无法得知细节只能各种资料都看看然后依赖外部调整并且求求效果变好的事物,还是…
上周生病,没办法,这周修好了上周一发现的超严重bug,引入了两三个稳定机制,然后还想出了一个比较特殊的对于回归任务范围限定更好的小办法,总的来说稳住了效果也比之前好了,现在确认了问题几乎变成了代码以外的问题,挺好的 果然还是回到工位学习比较舒服,不过没有图书馆安静,这是真的 目前工位周围的氛围也更好…
这周主要是生了一场大病,上吐下泻的。。。 仍然没有重新开始正常的学习,而且还发现一个之前没发现但是挺严重的问题,目前已经回到工位,继续开始吧。。。。
这周,开始新的一年的学习了,新的一年希望自己更加厉害,达成新的目标 新年除了开始头三天出去拜年,然后就是在家睡觉,后面三天没喝咖啡昏昏沉沉的,咔咔睡,最后出去了一天也没做什么。。。。 这周除了做该做的科研的事情,其它主要是换了个地方学习效率又高了一点,然后还使用rsshub等,找到了一大堆iot安全…
忘记写了oh no,不过好像截止至1.19,这一周也还是每天都在做实验,仅此而已, 不过这段时间真的发现自己有好几个误解ai的训练细节,说起来挺搞笑的,不过失败是成长的一部分嘛,嘿嘿,没看到没看到~ 但是幸好也是没有放弃去找出所有问题,就怕过不了自己那关
114(察觉) 都周二了才来写本周小结,实际上,上周直到昨天(周一)是在为开题的事情忙着,同时也是最后终于让我发现一个改进方向,实际上pytroch原生的梯度计算还能再改进下,然后也就没有做成别的事情,太忙了
上周,1.1直接生病了,然后躺了一两天。。。然后赶紧去继续调试ai,发现了一个公式相关的挺大的问题,终于能平衡优化了,可惜还是有一点小问题,然后开了组会以后就明白了 后面其实很紧张,一直在调试 幸好,老师找来一位做这方面的老师专门看了一下,确认了一下我遇到的问题,并且肯定了我现在的方案是可以的,但就…
这周又再继续调参,好消息是,这周终于确实把参数调到能够让模型学习到总体已知的最大值了 坏消息是,参数全都给到了最能引起上升的那个部分,所以资源分配非常不均衡,但这又是联合优化问题,所以刚开始的目标函数就有点问题,应该考虑点平均的东西,比如,加入方差惩罚项,或者最大化最小值什么的 然后,之前我没有以怀…
这周疯狂调参+改来改去ai模型结构,顺便去补了一下基础知识,真的是慢慢在排坑 从刚开始模型跑起来,然后,每修一次bug,loss都好看一点, 重构了两次模型,第一次是因为构思错误所以优化不了,重构好了以后,然后更改了无数次细节,优化器什么的全都试过,学习率和步长、层的结构、dropout等等,好像能…
这周主要是check模型其它地方对不对->变更优化器和学习率进行调参->发现模型设计不对->正在重新设计模型(写好但又有bug了) 这周其实花了大概总共完整的两天去准备英语六级考试,这是我第一次考,模拟考倒是感觉挺好的,就是今天其实作文没发挥好,而且听力有些不太懂,过倒是不难,就是,希望分数高点。。…