百家乐,百家乐平台,百家乐官方网站,百家乐在线,百家乐网址,百家乐平台推荐,百家乐网址,百家乐试玩,百家乐的玩法,百家乐赔率,百家乐技巧,百家乐公式,百家乐打法,百家乐稳赢技巧,百家乐电子,百家乐游戏普林斯顿大学和Meta联合推出的新框架LinGen，以MATE线性复杂度块取代传统自注意力，将视频生成从像素数的平方复杂度压到线性复杂度，使单张GPU就能在分钟级长度下生成高质量视频，大幅提高了模型的可扩展性和生成效率。

　　实验结果表明，LinGen在视频质量上优于DiT（胜率达75.6%），并且最高可减少15×（11.5×）FLOPs（延迟）。此外，自动指标和人工评估均显示，LinGen-4B在视频质量上与最先进模型相当（分别以50.5%、52.1%、49.1%的胜率优于Gen-3、Luma Labs和Kling）。

　　LinGen维持Diffusion Transformer（DiT）中的其他结构不变，而将其计算瓶颈——平方复杂度的自注意力模块替换为线性复杂度的MATE模块，它由MA分支和TE分支组成。

　　Mamba2作为State Space Model（SSM）的变体，善于处理超长的token序列，同时又对硬件非常友好，可以使用attention的各种硬件加速核，如xformers，FlashAttention等。但是Mamba系列模型在语言任务上的优秀表现难以直接迁移到大型视觉任务上，生成的高分辨率视频往往一致性很差、质量不高。

　　一些特殊的scan方法尝试解决这一问题，如Zigzag scan，Hilbert scan，但它们都要求对序列做复杂的顺序变换，而这个操作对硬件极其不友好。在处理高分辨率、长视频时，会带来显著的额外延迟。

　　以上图的方式为例，W，H和T分别在展开时有第一、第二和第三优先级，通过交换展开的优先级，就可以实现不同的scan方式。

　　相比于已有方法，该方法最大的好处是对硬件非常友好、可以通过简单的tensor reshaping实现，因此也几乎没有额外开销，同时还把scan后原相邻token的平均距离降到了和已有特殊scan方式相同的水平。

　　然而，所有这些特殊的scan方式仍然不足以完全解决Mamba的临近信息丢失问题，因为在模型的任意一层中，只会有一种scan方式被应用，如果不考虑跨层交流，大量临近信息在单层中依旧有损失。

　　针对于此，LinGen在TE分支中应用了TEmporal Swin Attention（TESA）：它是一种特殊的3D window attention，窗口范围在不同层中会滑动，每一个窗口都很小，并且窗口大小不随视频分辨率和长度（即3D tensor的大小）的变化而变化。

　　这是因为TESA仅用来处理最临近的信息，这一固定的窗口大小也使得TESA实现了相对3D tensor中token数的线性复杂度。

　　作为额外的补充，LinGen还在MA分支中引入了review tokens。它被用以增强视频中极长程的一致性，例如在60秒视频的结尾复现视频前几秒消失的人。它把待处理video tensor的概览提前写入Mamba的hidden state memory中，为后续的视频处理提供帮助。

　　从人类评测和模型自动评测两个角度将LinGen与已有的先进视频生成模型、以及DiT baseline进行比较。

　　无论是人类评测的结果，还是在VBench上的自动评测的结果，都显示LinGen与先进的商业模型Kling、Runway Gen-3生成的视频质量接近，并且远胜于OpenSora v1.2。

　　可以看到，在FLOPs方面，当生成17秒、34秒和68秒长度的512p视频时，LinGen-4B相对于DiT-4B分别实现了5×、8×和15×的加速；

　　这说明LinGen具有线性复杂度，可以在单卡上实现分钟级视频生成，速度远快于DiT。与相同大小的DiT相比，LinGen可实现推理速度11倍以上的提升。

　　另外，LinGen和相同大小、在相同数据集上以相同training recipe训练的DiT baseline相比，在视频质量和文字-视频一致性上取得全面领先。相比起DiT，LinGen可以更快地适应更长的token序列。

　　通常认为自注意力模块的线性替代是对完整自注意力的近似，虽然在速度上有显著优势，但在模型性能上往往略逊一筹，而LinGen打破了这个惯有的看法。

　　在整个预训练过程中，模型从低分辨率图像生成开始，学习低分辨率视频生成，再不断增加所生成视频的分辨率和长度，所处理的token数增长了上千倍。

　　而在从少token数的任务迁移到多token数的任务时，LinGen的适应性远强于DiT（a图中是从256x256分辨率视频生成迁移到512x512分辨率视频生成任务时的loss curve），这可能是受益于Mamba对于长序列的高适应性，这一特征已经在语言任务上被观察到。

　　为了进一步验证这里推理，选取这一预训练阶段的早期checkpoint进行比较，发现LinGen比DiT的win rate优势变得更加显著。这暗示了虽然LinGen在任务迁移的早期能大幅领先DiT，但是这种优势随着预训练的进行，在不断减小。

　　尽管如此，在训练资源有限的情况下，LinGen在预训练的极长一段时间内仍旧能对DiT保持优势。

　　06月11日，中新健康周报｜一品红、石家庄四药遭医保局“拉黑”6个月 片仔癀暂缓执行关联交易，和记娱乐电竞，365bet体育足球官方介绍，环亚旗舰厅手机版，188金博网欢迎您

　　06月11日，美媒：红海危机表明中国的“一带一路”倡议对所有国家都至关重要，马经挂牌系列I，送3金币棋牌平台，欧亚体育首页官网，pg电子平台哪个平台好

　　06月11日，今天，一键开启“青年模式”，美高梅所有平台网址，必赢亚洲手机版官方登录，新加坡娱乐网址多少，必威官网主页入口

　　06月11日广州发布全国首单涉农知识产权证券化产品百老汇买球MG真人在线登陆威廉希尔投注平台天博官方体育app下载

　　06月11日文化中国行·长江之歌丨千年窑火瓷韵新beat365手机版客户端球探体育比分直播网明升88下载皇冠体育滚球手机版

　　06月11日共话新质生产力丨新质生产力的“新”，关键在何处？明升体育注册菠菜app哪个好体育新宝官网好玩的赢钱游戏……

　　06月11日，共建“一带一路”国家代表聚三亚 共商农业国际合作，云顶娱乐最新官网，金沙新官网，bbin世界杯比分，九鼎贵宾会

　　06月11日，香港简约公屋6月下旬接受申请，am8亚美，网络德州牛仔输死人，环球手机版登陆，大发平台下载app网址

　　06月11日中亚四国媒体人走访新疆：每次都有新观感芒果体育平台官方网站博胜国际亚博国际体育Bet体育365提款要多久

　　06月11日，中山大学与深圳市签署合作协议进一步加强合作，谁有bv网站，乐赢，必发登陆，亚新快速登陆

　　06月11日，航拍雄安自贸试验区交流展示中心，棋牌彩金，717银娱geg优越会，体育投注网站哪个好，发财献策

　　06月11日，中国市场监管部门规范互联网广告可识别性，通天杀波图2，凯时kb88可来就送38，澳门官方网投平台，澳门太阳集团9728网网址

　　06月11日时政微纪录丨春天的盛会 习2024年“两会时间”伟德体育可靠吗9499威尼斯美女精准劲料版真人德州手机客户端

　　06月11日超龄就业受伤，算不算工伤须“具体分析”必威在哪里玩凯时注册App皇冠体育手机app球探体育比分

　　06月11日喝牛奶或降“乳糖不耐”者Ⅱ型糖尿病风险bo体育官网登入云顶国际网页版手机体球网足球比分必赢亚洲全站官网

　　车厘子打败砂糖橘成年货顶流农村大学生寻求低价电脑 卡吧老哥慷慨解囊，成为像孙颖莎一样的人联合国糖尿病日｜每10个人就有1人患糖尿病，和吃甜食多有关系吗？国际AG旗舰厅网址银河国际下载地址最正规的棋牌游戏排行凯发娱乐

　　LE SSERAFIM 回归消息合集，LOL天龙祈愿抽到了什么河北宽城：小山村里的空竹比赛马经奇迹A(新图推荐)米乐在哪里玩亚洲彩票官网版下载葡京体育外围官网

　　巴基斯坦选举委员会开会讨论对策，BLG 2-0 AL高质量发展调研行 “颜值”变“产值” 打造“风景生产力”手机澳门电子游戏网站澳门威斯尼斯人网上博弈娱乐网址最火赌城平台有哪些

　　贵州住宅火灾事件死者儿子曾举报小区消防，地震时客运员第一反应疏散旅客【东西问】辛礼学：南海西北陆坡一号、二号沉船遗址考古有哪些亮点？菠菜足球网完美体育首页appK8凯发网页登陆BCK体育平台跑路了

　　谭爷爷收到春晚观众席邀约，王曼昱止步大满贯32强一箭18星 中国成功发射千帆极轨03组卫星买足球外围哪个网站好三亿体育怎么下载明博体育入口377金沙的网址是多少

　　山东蒙阴冰雹大面积砸烂蜜桃，青之箱湖北一保护区：三只黑熊“同框”玩耍 憨态可掬天博app官网版美高梅有多少网址鑫百利客服微信云顶国际下载地址

　　关雪车牌号是杨幂生日，男子假离婚后发现孩子非亲生女性综艺的风还会往哪里吹？宝博买球mgm在哪开户宝金博在线立博登录