关于illumina产生的测序源文件bcl转换成fastq格式的问题

本文介绍了如何在服务器无法直接生成fastq格式文件的情况下,使用illumina的OLB软件将bcl转换为qseq,再进一步转化为fastq格式。详细讲述了OLB的安装过程,依赖的软件包,以及转换过程中需要注意的参数设置,包括-b、-o、-f、-i和-p等。最后提到了qseq文件转换为fastq的perl脚本处理。

    由于连接测序仪的服务器不知道哪里抽了风,无法直接的生成fastq格式的文件,好久都无解,经过一段时间仍无法解决,所以采用曲线救国的方法,看能不能利用三方软件将bcl转换成fastq文件

    google以后发现illumina的OLB(off-line Basecaller)软件可以实现从bcl格式转换成qseq格式,而qseq格式就可以通过简单的perl或者shell或者java脚本转换成fastq格式。还有一种策略是利用picard的IlluminaBcl2sam转换成sam格式,然后再从sam转换成fastq格式(虽然没有采用这种方法,但是隐隐的感觉该方法可能转换出来的数据不理想,而且中间生成的sam文件也比较大比较占空间,加上感觉参数指定的时候很多文件例如positionfile ,filterfile都没用上)。本人对bcl格式知道的不多,测序生成的rawdata原始文件夹有个Intensitive 而该文件夹又含有basecall文件夹和很多的positionfile,虽然不知道position file是干嘛的,但是后面采用OLB软件转换的时候会用到这些文件,basecalling文件夹下又含有不同lane的信息例如L001等,打开每个lane文件夹进去看,发现很多C打头的文件夹,这些文件夹根据我的理解就是变合成边测序产生circle文件,每个circle代表一个碱基。点开进去就是我们需要转换的bcl文件了。

下面从基本的OBL安装开始(http://support.illumina.com/documents/MyIllumina/ec3129a6-b41f-4d98-963f-668391997f1a/OLB_194_UserGuide_15009920D.pdf 这是manual)

简单说一下 ,这个安装时很麻烦的,幸亏我们服务器安装了绝大多数的包,但是仍有几个包没有安装,这么多的包得安装你没有管理员权限是很难完成的,这里稍作总结一下:

    这是manual文件中涉及的需要安装的包,看一下 是不是需要很多,其中perl,python自然是最基础的,记住版本一定要大于所要求的,GNU编译器也是需要的,c++编译器也是需要安装。gnuplot是之前自己装,隐约觉得挺快就装好了,这些不懂的都可以去百度。其中比较麻烦的是Ghostscript和ImageMaker ,Ghostscript是用来转换bitmap的工具,这里也要调用,fft包官方下载的OLB 安装包下自带,需要进入fft文件夹编译安装以后才能使用。

这些依赖的软件及软件包都安装完了以后就需要安装OLB了,方法也很简单,进入OLB文件夹,输入

make

make install

    如果没有报错 就基本没问题了。下面使用OLB对文件进行转换,转换的qseq文件有两种方式一种是默认的bustard的方式 也是默认的方式,产生的文件中的未测到的碱基用“.” 表示,还有一种下游的GERALD生成的文件中为测到的碱基用N表示(通过--gerald参数),如果你采用第一种,之后也还要对数据中的“.”进行替换。

这里主要用这个软件转换数据格式,所以其他的功能也不做讨论,具体看如何转换:

首先进入你的数据所在目录的下的basecall的文件夹下面,然后输入

    这里值得注意的是,后面的参数需要进行更改,在指定-b和-o(表示文件输入目录和输出目录-这个必须是新建的)的同时还要制定-f和-i -p,分别表示filter文件所在位置,intensive文件和position文件所在位置,不然就会报错。

这样就会在你的输出文件夹产生一个makefile。进入你的输出文件夹cd

输入

make -j 8 (表示线程数)

      就会拿到你需要的qseq文件,这步会花费很长的时间,你需要保存log文件用于检查数据有没有问题,这里也要注意文件完整性,故在跑程序之前都要检查文件是否有问题,不然中途就会中断。

产生的后的qseq文件需要进行转换

其中perl的代码如下

#!/usr/bin/perl

use warnings;
use strict;

while (<>) {
	chomp;
	my @parts = split /\t/;
	print "@","$parts[0]:$parts[2]:$parts[3]:$parts[4]:$parts[5]#$parts[6]/$parts[7]\n";
	print "$parts[8]\n";
	print "+\n";
	print "$parts[9]\n";
}

保存以后 运行就可以生成一堆的fastq文件,这里还要对每个lane的文件进行合并,采用cat命令就可以实现

cat s_1_1_0???_qseq.txt | qseq2fastq.pl > s_1_1.fastq

这样就能得到我们数据分析需要用到的fastq文件的格式了。还有一点需要注意,这里产生的fastq文件中有很多质量差的数据,根原来服务器软件出来的不一样,这里就需要对产生的数据进行质量控制,也就是我们所说的QC了。
内容概要:本文研究了基于DPWMA调制与正负序分离的ANPC三电平并网逆变器前馈控制策略,旨在解决传统三电平逆变器存在的谐波含量高、电网不平衡工况适应性差及动态响应速度不足等问题。通过采用有源中点箝位(ANPC)三电平逆变器拓扑,结合双极性倍频脉宽调制(DPWMA)、正负序分离锁相技术和电网电压前馈控制,构建了一套一体化的高性能并网控制体系。该体系不仅优化了逆变器的开关动作机制,改善了输出电压电流的谐波特性,而且通过精确的相位同步和扰动补偿,显著提高了系统的动态响应能力和抗扰性能。仿真结果显示,所提出的控制策略能有效降低并网谐波含量,提升锁相精度与系统动态稳定性,确保在复杂电网工况下的高质量稳定并网。 适合人群:具备一定电力电子基础知识和仿真技能的研发人员,尤其是从事新能源发电、储能系统、柔性输电等领域研究的专业人士。 使用场景及目标:①研究和开发高性能并网逆变器,特别是针对大功率、高电能质量要求的应用场景;②探索如何通过先进的调制和控制策略来提高并网逆变器对电网扰动的适应性和响应速度;③为相关领域的学术研究和技术开发提供理论依据和实践指导。 阅读建议:建议读者结合实际的仿真软件(如MATLAB/Simulink)进行实践操作,以便更好地理解和掌握文中提到的各种控制策略的具体实现方法。同时,鼓励读者关注最新的研究成果和发展趋势,不断深化对该领域的认识。
摘要 在全球生态环境问题日益严峻、公众环保参与意愿持续提升的背景下,传统环保志愿者招募与管理模式存在信息传播零散、供需对接不畅、管理效率低下等痛点,制约了环保公益事业的规模化发展。为解决上述问题,响应生态保护数字化发展需求,本课题设计实现“守望自然”环保志愿者招募与管理网站,通过数字化手段打通环保组织与志愿者的服务链路,对推动环保公益规范化、高效化发展具有重要的现实意义与实践价值。 该网站采用B/S架构与前后端分离模式开发,前端基于Vue架构建组件化响应式界面;后端以Java为开发语言,采用Spring Boot框架搭建应用,搭配MyBatis作为持久层框架,数据库选用MySQL并遵循第三范式设计7个以上核心数据表。系统涵盖用户与管理员两大核心角色,实现了闭环式环保志愿服务功能:用户端支持注册登录、个人信息管理、活动查询报名、环保知识学习、社区互动、问题反馈及客服咨询等功能,满足用户全流程参与需求;管理员端具备用户管理、用户审核、招募与活动信息发布管理、环保知识内容管理、问题反馈处理、证书模板管理、多维度数据可视化分析及社区内容监管等功能,全面支撑环保组织运营管理。开发过程中集成了Token身份认证、MD5密码加密、ECharts数据可视化等关键技术,融入活动智能推荐、数据驱动决策等创新设计,确保系统功能完备性与实用性。 经功能测试、性能测试及安全测试验证,系统运行稳定可靠,具有良好的易用性、安全性和可扩展性,能够高效满足环保组织的用户招募管理需求与用户的多元化参与需求,有效降低环保组织运营成本,提升用户参与体验,为环保理念传播与公益事业发展提供有力的数字化支撑。 关键词:环保志愿者;招募管理系统;Spring Boot;Vue;数据可视化
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值