当前位置:首页 > 科技  > 软件

提升效率必备!学习 awk 命令,轻松搞定数据

来源: 责编: 时间:2024-09-10 09:45:05 34观看
导读在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握

在日常的工作中,无论是数据处理、日志分析,还是格式化输出,AWK命令都是不可或缺的利器。AWK是一种强大的文本处理工具,能让你轻松处理复杂的数据,提升工作效率。本文将为你介绍AWK的基本功能及一些实用场景,帮助你快速掌握这门工具。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

awk选项

awk 命令的使用方式如下:zul28资讯网——每日最新资讯28at.com

awk options program file

awk 可以采用以下选项:zul28资讯网——每日最新资讯28at.com

  • -F:fs指定文件分隔符。
  • -f:文件指定包含 awk 脚本的文件。
  • -v:var=值声明变量。

我们将了解如何使用awk处理文件和打印结果。zul28资讯网——每日最新资讯28at.com

读取AWK脚本

要定义awk脚本,请使用用单引号括起来的大括号,如下所示:zul28资讯网——每日最新资讯28at.com

awk '{print "Welcome to awk command tutorial "}'

如果您键入任何内容,它将返回我们提供的相同欢迎字符串。如下图所示:zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

要终止程序,请按Ctrl+D。看起来很棘手,不要惊慌,最好的还没有到来。zul28资讯网——每日最新资讯28at.com

使用变量

使用awk,可以处理文本文件。Awk为找到的每个数据字段分配一些变量:zul28资讯网——每日最新资讯28at.com

  • $0:是输出整行的内容。
  • $1:是输出第一个字段。
  • $2:是输出第二个字段。
  • $n:表示第n个字段。

在awk中,空格或制表符等空白字符是字段之间的默认分隔符。看看这个例子,看看awk是如何处理它的:zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

上面的示例打印了每行的第一个单词。zul28资讯网——每日最新资讯28at.com

有时某些文件中的分隔符不是空格或tab,而是其他内容。您可以使用–F选项指定它:zul28资讯网——每日最新资讯28at.com

awk -F ':' '{print $1}' /etc/passwd

zul28资讯网——每日最新资讯28at.com

此命令将打印passwd文件中的第一个字段。我们使用冒号作为分隔符,因为passwd文件使用它。zul28资讯网——每日最新资讯28at.com

使用多个命令

要运行多个命令,请用分号分隔它们,如下所示:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# echo "Hello Tom" | awk '{$2="Adam"; print $0}'Hello Adam

第一个命令使 $2字段等于Adam。第二个命令打印整行。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

从文件中读取脚本

您可以在文件中键入awk脚本,并使用 -f 选项指定该文件。我们的文件包含以下脚本:zul28资讯网——每日最新资讯28at.com

{print $1 " home at " $6}
 awk -F: -f testfile /etc/passwd

zul28资讯网——每日最新资讯28at.com

在这里,我们从 /etc/passwd打印用户名和他的主路径,当然分隔符是用大写的-F指定的,即冒号。zul28资讯网——每日最新资讯28at.com

你可以像这样awk脚本文件:zul28资讯网——每日最新资讯28at.com

{text = $1 " home at " $6print t

awk预处理

如果您需要为结果创建标题或表头等。您可以使用BEGIN关键字来实现此目的。它在处理数据之前运行:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0}' myfile

执行上述代码输入如下图的结果:zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

awk后处理

要在处理数据后运行脚本,请使用END关键字:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN {print "this Title"} {print $0} END {print "this footer"}' myfile

执行上述代码输出如下图的结果:zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

这很有用,例如,您可以使用它来添加页脚。让我们将它们组合到一个脚本文件中:zul28资讯网——每日最新资讯28at.com

BEGIN {print "Users and thier corresponding home"print " UserName /t HomePath"print "___________ /t __________"FS=":"}{print $1 "  /t  " $6}END {print "The end"

首先,使用BEGIN关键字创建顶部部分。然后我们定义FS并在末尾打印页脚。zul28资讯网——每日最新资讯28at.com

 awk -f myscript  /etc/passwd

zul28资讯网——每日最新资讯28at.com

内置变量

我们看到数据字段变量$1,$2,$3等用于提取数据字段,我们还处理字段分隔符FS。zul28资讯网——每日最新资讯28at.com

但这些并不是唯一的变量,还有更多的内置变量。zul28资讯网——每日最新资讯28at.com

下面列出了一些内置变量:zul28资讯网——每日最新资讯28at.com

  • FIELDWIDTHS:指定字段宽度。
  • RS:指定记录分隔符。
  • FS:指定字段分隔符。
  • OFS:输出分隔符。
  • ORS:输出分隔符。

默认情况下,OFS变量是空格,你可以设置OFS变量来指定你需要的分隔符:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN {FS=":";OFS="---"} {print $1,$6,$7}' /etc/passwd

zul28资讯网——每日最新资讯28at.com

有时,字段的分布没有固定的分隔符。在这些情况下,FIELDWIDTHS 变量可以解决问题。zul28资讯网——每日最新资讯28at.com

假设我们有以下内容:zul28资讯网——每日最新资讯28at.com

1235.96521927-8.365236257.8157
awk 'BEGIN{FIELDWIDTHS="3 4 3"}{print $1,$2,$3}' testfile

查看输出。输出字段为每行3个,每个字段长度都基于我们由FIELDWIDTH分配的字段。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

更多的变量

还有一些其他变量可以帮助你获取更多信息:zul28资讯网——每日最新资讯28at.com

  • ARGC:获取传递的参数数量。
  • ARGV:获取命令行参数。
  • ENVIRON :shell环境变量及其对应值的数组
  • FILENAME:awk处理的文件名。
  • NF :Fields正在处理的行数。
  • NR:检索处理过的记录总数。
  • FNR:被处理的记录。

IGNORECASE:忽略字符的大小写。zul28资讯网——每日最新资讯28at.com

让我们测试一下。zul28资讯网——每日最新资讯28at.com

root@didiplus:~#  awk 'BEGIN{print ARGC,ARGV[1]}' myfile2 myfile

ENVIRON变量检索shell环境变量,如下所示:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN {print ENVIRON["PATH"]}'/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/usr/local/games:/snap/bin

您可以使用不带ENVIRON变量的 bash 变量,如下所示:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# echo | awk -v home=$HOME '{print "My home is" home}'My home is/root

NF变量指定记录中的最后一个字段,但不知道其位置:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=":"; OFS=":"} {print $1,$NF}' /etc/passwd

zul28资讯网——每日最新资讯28at.com

如果像这样键入NF变量,则可以将其用作数据字段变量:$NF。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

让我们看一下这两个例子来了解FNR和NR变量之间的区别:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN{FS=","}{print $1,"FNR="FNR}' myfile myfile

zul28资讯网——每日最新资讯28at.com

在此示例中,awk命令定义两个输入文件。相同的文件,但处理了两次。输出是第一个字段值和FNR变量。zul28资讯网——每日最新资讯28at.com

现在,检查NR变量并查看差异:zul28资讯网——每日最新资讯28at.com

$ awk 'BEGIN {FS=","}{print $1,"FNR="FNR,"NR="NR}END{print "Total",NR,"processed lines"}' myfile myfile

zul28资讯网——每日最新资讯28at.com

当涉及到第二个文件时,FNR变量变为1,但NR变量保留其值。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

用户自定义变量

变量名称可以是任何内容,但不能以数字开头。您可以像在shell脚本中一样分配变量,如下所示:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN{test="Welcome to LikeGeeks website"print test}'

执行上述命令后,输出如下结果:zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

结构化命令

1.if循环

awk脚本语言支持if条件语句。testfile包含以下内容:zul28资讯网——每日最新资讯28at.com

101563345
root@didiplus:~# awk '{if ($1 > 30) print $1}' testfile3345

如果要运行多个语句,则应使用大括号:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x}}' testfile99

您可以使用如下所示的else语句:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{if ($1 > 30){x = $1 * 3print x} else{x = $1 / 2print x}}' testfile57.5399135

或者在同一行中键入它们,并用分号分隔 if 语句,如下所示:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk '{ if ($1>20) print $1*2;else print $1/2}' testfile57.536690

2.while循环

您可以使用while循环遍历具有条件的数据。zul28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $ii++}average = sum / 3print "Average:",average}' testfile
  • $i:是取到testfile的每一列的值
  • while循环运行,每次它都会向sum变量加$i的值,直到 i 变量变为 4。

zul28资讯网——每日最新资讯28at.com

您可以使用break命令退出循环,如下所示:zul28资讯网——每日最新资讯28at.com

awk '{sum = 0i = 1while (i < 5){sum += $iif (i == 3) breaki++}average = sum / 3print "Average:",average}' testfile

结果还是和上面的输出的一样。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

3.for循环

awk脚本语言支持for循环:zul28资讯网——每日最新资讯28at.com

awk '{total = 0for (var = 1; var < 5; var++){total += $var}avg = total / 3print "Average:",avg}' testfile

格式化打印

awk中的printf命令允许你使用格式说明符打印出格式化的输出。zul28资讯网——每日最新资讯28at.com

格式说明符如下所示:zul28资讯网——每日最新资讯28at.com

%[modifier]control-letter

下面列出了可用于printf的格式说明符:zul28资讯网——每日最新资讯28at.com

  • c:以字符串的形式打印数值输出。
  • d:打印一个整数值。
  • e:打印科学数字。
  • f:打印浮点数。
  • o:打印一个八进制值。
  • s:打印文本字符串。

这里我们使用printf来格式化输出:zul28资讯网——每日最新资讯28at.com

awk 'BEGIN{x = 100 * 100printf "The result is: %e/n", x}'

zul28资讯网——每日最新资讯28at.com

内置函数

Awk提供了几个内置函数,例如:zul28资讯网——每日最新资讯28at.com

1.数学函数

如果你喜欢数学,你可以在awk脚本中使用这些函数:zul28资讯网——每日最新资讯28at.com

  • sin(x)
  • cos(x)
  • sqrt(x)
  • exp(x)
  • log(x)
  • rand()

而且它们可以正常使用:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x=exp(5); print x}'148.413

2.字符串函数

有很多字符串函数,你可以查看列表,但我们将其中一个作为示例来研究,其余的都是一样的:zul28资讯网——每日最新资讯28at.com

root@didiplus:~# awk 'BEGIN{x = "likegeeks"; print toupper(x)}'LIKEGEEKS

函数 toupper将传递的字符串的字符大小写转换为大写。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

3.用户自定义函数

您可以定义您的函数并像这样使用它们:zul28资讯网——每日最新资讯28at.com

awk 'function myfunc(){printf "The user %s has home path at %s/n", $1,$6}BEGIN{FS=":"}{myfunc()}' /etc/passwd

在这里,我们定义了一个名为myprint的函数,然后在脚本中使用它通过printf函数打印输出。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

总结

AWK是一款功能强大的数据处理工具,它能够高效地处理复杂的文本文件和数据集。无论你是需要处理日志、统计数据,还是生成格式化的报表,AWK都能轻松胜任。通过熟练掌握AWK命令,你可以极大提升工作效率,轻松应对各种数据处理任务。zul28资讯网——每日最新资讯28at.com

zul28资讯网——每日最新资讯28at.com

本文链接://www.dmpip.com//www.dmpip.com/showinfo-26-112708-0.html提升效率必备!学习 awk 命令,轻松搞定数据

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: WPF 入门知识:XAML 详解

下一篇: 将目标检测模型导出到C++|RT-DETR、YOLO-NAS、YOLOv10、YOLOv9、YOLOv8

标签:
  • 热门焦点
  • K60至尊版刚预热 一加Ace2 Pro正面硬刚

    K60至尊版刚预热 一加Ace2 Pro正面硬刚

    Redmi这边刚如火如荼的宣传了K60 Ultra的各种技术和硬件配置,作为竞品的一加也坐不住了。一加中国区总裁李杰发布了两条微博,表示在自家的一加Ace2上早就已经采用了和PixelWo
  • Automa-通过连接块来自动化你的浏览器

    Automa-通过连接块来自动化你的浏览器

    1、前言通过浏览器插件可实现自动化脚本的录制与编写,具有代表性的工具就是:Selenium IDE、Katalon Recorder,对于简单的业务来说可快速实现自动化的上手工作。Selenium IDEKat
  • JavaScript学习 -AES加密算法

    JavaScript学习 -AES加密算法

    引言在当今数字化时代,前端应用程序扮演着重要角色,用户的敏感数据经常在前端进行加密和解密操作。然而,这样的操作在网络传输和存储中可能会受到恶意攻击的威胁。为了确保数据
  • 只需五步,使用start.spring.io快速入门Spring编程

    只需五步,使用start.spring.io快速入门Spring编程

    步骤1打开https://start.spring.io/,按照屏幕截图中的内容创建项目,添加 Spring Web 依赖项,并单击“生成”按钮下载 .zip 文件,为下一步做准备。请在进入步骤2之前进行解压。图
  • 使用LLM插件从命令行访问Llama 2

    使用LLM插件从命令行访问Llama 2

    最近的一个大新闻是Meta AI推出了新的开源授权的大型语言模型Llama 2。这是一项非常重要的进展:Llama 2可免费用于研究和商业用途。(几小时前,swyy发现它已从LLaMA 2更名为Lla
  • 2023年,我眼中的字节跳动

    2023年,我眼中的字节跳动

    此时此刻(2023年7月),字节跳动从未上市,也从未公布过任何官方的上市计划;但是这并不妨碍它成为中国最受关注的互联网公司之一。从2016-17年的抖音强势崛起,到2018年的&ldquo;头腾
  • 2天涨粉255万,又一赛道在抖音爆火

    2天涨粉255万,又一赛道在抖音爆火

    来源:运营研究社作者 | 张知白编辑 | 杨佩汶设计 | 晏谈梦洁这个暑期,旅游赛道彻底火了:有的「地方」火了&mdash;&mdash;贵州村超旅游收入 1 个月超过 12 亿;有的「博主」火了&m
  • 苹果、三星、惠普等暂停向印度出口笔记本和平板电脑

    苹果、三星、惠普等暂停向印度出口笔记本和平板电脑

    集微网消息,据彭博社报道,在8月3日印度突然禁止在没有许可证的情况下向印度进口电脑/平板及显示器等产品后,苹果、三星电子和惠普等大公司暂停向印度
  • OPPO K11搭载长寿版100W超级闪充:26分钟充满100%

    OPPO K11搭载长寿版100W超级闪充:26分钟充满100%

    据此前官方宣布,OPPO将于7月25日也就是今天下午14:30举办新品发布会,届时全新的OPPO K11将正式与大家见面,将主打旗舰影像,和同档位竞品相比,其最大的卖
Top
Baidu
map