-
博文分类专栏
- Jquery基础教程
-
- 文章:(15)篇
- 阅读:46615
- shell命令
-
- 文章:(42)篇
- 阅读:154517
- Git教程
-
- 文章:(36)篇
- 阅读:235116
- leetCode刷题
-
- 文章:(76)篇
- 阅读:132280
-
利用shell中awk和xargs以及sed将多行多列文本中某一列合并成一行2018-01-01 21:04 阅读(14492) 评论(1)
一、问题描述
最近需要利用Shell将多行多列文本中某一列,通过指定的分隔符合并成一行。假设需要处理的文本如下:
我们主要处理的是,将用户名提取处理,合并成一行,并通过逗号进行分隔。最终的格式如下:
"li1","huan","wang","wu","78c","zh","liu","zhao","xu","yang"
二、解决方案
首先是提取每一行的第X列,我最先能够想到的是awk命令,如下:
awk '{print $2}' user1.txt
接着,是不是可以把替换符替换为逗号呢?
使用tr命令
awk '{print $2}' user1.txt |tr "\n" ","
看着好像是很接近,我们将上面的 , 分隔改为","分隔,是不是就okey了呢?命令如下:
awk '{print $2}' user1.txt |tr "\n" "\",\""
只是很遗憾,执行效果如下:
为什么呢?
因为tr是单个字符处理工具,而不是字符串处理工具。
既然tr不可以替换字符串,那么咱们就用sed命令。因为sed命令不仅仅可以处理字符,还可以处理字符串。
先来个简单的,将换行替换成逗号,命令如下:
awk '{print $2}' user1.txt |sed 's/\n/,/g'
执行结果如下:
好吧,竟然不听话。为什么呢?
因为sed命令处理过程是:从文本流中读取一行文本后,先把换行符去掉,然后进行相应的命令,处理完后再添加上换行符。这就导致sed命令,无法对换行符进行直接替换。
既然这样行不通,怎么搞呢?
解决方案一:
既然sed不能修改换行符,那就是在使用sed之前,把换行符干掉。干掉换行符,可以使用tr和xargs命令。
#使用xargs命令干掉换行符 awk '{print $2}' user1.txt |xargs #使用tr命令干掉换行符 awk '{print $2}' user1.txt |tr "\n" " "
使用sed命令将空格替换成",",命令如下:
awk '{print $2}' user1.txt |xargs |sed 's/ /","/g'
但是开头和结尾少了一个双引号,解决方案如下:
echo '"'`awk '{print $2}' user1.txt |xargs |sed 's/ /","/g'`'"'
解决方案二:
echo '"'`awk '{print $2}' user1.txt | sed ':label;N;s/\n/","/;b label'`'"'