jq语言

jq是高级领域特定的词法作用域的纯函数式编程语言，在其中所有JSON值都是常量。jq支持回溯并可管理JSON数据的无限长字串流。jq支持基于名字空间的模块系统，并对闭包有一定支持，尤其是它的函数和泛函表达式可以用作其他函数的参数。

jq

jq官方图标
编程范型	纯函数式, 面向JSON处理, 隐式
設計者	Stephen Dolan
发行时间	2012年8月21日​（2012-08-21）
当前版本	1.7.1（2023年12月13日；穩定版本）
實作語言	jq：C gojq：Go jaq：Rust jqjq：jq
系统平台	跨平台
操作系统	跨平台
許可證	MIT
網站	jqlang.github.io/jq
啟發語言
Haskell, Icon, JSON, Unix shell, sed

jq与Icon和Haskell编程语言有关。它最初采用Haskell实现，随即移植至C语言。gojq是jq的“纯Go”实现。jq还有用Rust实现的叫做jaq的方言，它规定了指称语义。

历史

jq由Stephen Dolan创建并在2012年10月发行 。它被设计为“针对JSON数据的sed类似者”。在jq版本1.5中增加支持了正则表达式。

针对jq的叫做yq的“包装器”，增加支持了YAML、XML和TOML。它首次发行于2017年。

用Go实现的gojq最初发行于2019年，gojq显著的扩展jq包括了支持YAML。

用Rust实现的jaq，其项目目标是更快速和更准确的jq实现，仍保持与jq在大多数情况下的兼容性。在2024年3月于其目标中排除了jq的特定高级特征，比如模块、SQL风格算子和给非常大JSON文档的串流解析器。

用jq实现的jqjq，最初发行于2022年。jqjq显著的可以运行自身，拥有REPL并支持eval。

用法

命令行用法

jq典型的用于命令行，并可以协作于其他命令行实用工具，比如curl。下面的例子展示如何将curl命令的输出通过管道接转到jq过滤器，从而确定同这个Wikipedia页面关联的范畴名字：

$ URL='https://zh.wikipedia.org/w/api.php?action=parse&page=Jq%E8%AF%AD%E8%A8%80&format=json'
$ curl -s ${URL} | jq '.parse.categories[]."*"'

这里的流水线产生的输出，由JSON字符串的串流组成，它们是：

"小寫標題"
"CS1英语来源_(en)"
"动态类型编程语言"
"函数式编程语言"
"面向文本编程语言"
"2012年建立的程式語言"
"数据查询语言"
"2012年软件"

上述curl命令对这个页面使用了MediaWiki API来产生JSON响应。管道（pipe）符号|允许curl的输出由jq来访问，它是标准的Unix shell的进程间通信机制。

这里展示的jq过滤器的方法链是如下流水线（pipeline）的简写：

.["parse"] | .["categories"] | .[] | .["*"]

这对应于curl调用所产生的嵌套JSON结构。jq流水线的构造方式，同Unix风格流水线一样，采用管道符号|。

嵌入式用法

C语言和Go实现二者都提供函数库，使得jq功能可以嵌入到其他应用和编程环境之中。

例如，gojq已经集成于SQLite，故而jq函数可以在其SQL语句中获得到。这些函数被标记为“确定性的”，故而可以被用在CREATE INDEX命令中。

运算的模态

jq缺省的充当针对JSON输入的“串流编辑器”，非常像被当作多行文本的“串流编辑器”的sed实用工具。但是jq有一些其他运算模态：

1. 它可以将来自一个或多个来源的输入当作文本的诸行；
2. 它可以将来自特定来源的输入的串流收集到一个JSON阵列之中；
3. 它可以使用所谓的“串流解析器”解析其输入，产生针对所有“叶子”路径的[path, value]阵列的串流。

“串流解析器”（streaming parser），在一个或多个JSON输入太大无法载入内存之时特别有用，因为它需求的内存典型的相当小。例如，对于任意大的JSON对象的阵列，峰值内存需求不比处理最大顶层对象所需要的多出很多。

这些运算模态可以在特定限制下组合起来。

语法和语义

类型

所有JSON值自身是jq中的值，它们从而有在下列表格中展示的类型。gojq和jaq实现将数区分为整数和浮点数。gojq实现支持无界精度整数算术，同于jq采用Haskell的最初实现。

jq支持的类型总结

类型	例子
"number"	3 3.2 1e6 nan infinite
"string"	"Hello" "😐"
"boolean"	true false
"array"	[1, "2", {"mixed": "type"}, [3,4]]
"object"	{"one": 1, "two": "2", "three": [3]}
"null"	null

null是一个值，就像任何其他JSON标量一样；它不是指针或空指针。nan（对应于NaN）和infinite（参见IEEE 754），是仅有的两个不是JSON值的jq标量。

形式

jq有特殊语法形式，比如：

• EXP as $var | ……：变量绑定；
• def ……: ……;：函数创建；
• if …… then …… elif …… then …… else …… end：条件；
• reduce EXP as $var (INIT; UPDATE)：串流归约；
• include ……;和import …… as $NAME;：模块导入。

过滤器

jq是面向JSON的编程语言，使用|符号来连接过滤器形成流水线。例如：

$ echo '[1,2]' | jq 'add'
3
$ jq -n '[1,2] | add'
3

这里jq内的JSON阵列[1,2]是求值为阵列的一个jq过滤器。

尽管类似于Unix流水线，jq流水线允许将到来数据，如同并行的发送到在|右手端的多于一个接收者。例如，程序add/length将计算阵列中数的平均，故而：

$ jq -n '[1,2] | add/length'
1.5
$ jq -nc '[1,2] | [length, add, add/length]'
[2,3,1.5]

单独的点号.可以充任占位符（placeholder）或通配符，例如：

$ jq -nc '1 | [., .]'
[1,1]
$ jq -n '2 | pow(.; .)'
4

在jq中可以用隐式编程风格将斐波那契数列定义为[0,1] | recurse([last, add]) | first，下面是其使用例子：

$ echo '0 1 2 6' | jq -c '[limit(.+1; [0,1] | recurse([last, add]) | first)]'
[0]
[0,1]
[0,1,1]
[0,1,1,2,3,5,8]
$ echo '0 1 2 6' | jq -c '[limit(.; [0,1] | recurse([last, add]) | last)]'
[]
[1]
[1,1]
[1,1,2,3,5,8]
$ jq -n 'first([0,1] | recurse([last, add]) | first)'
0
$ jq -n '[0,1,2,6][] | nth(.; [0,1] | recurse([last, add]) | first)'
0
1
1
8
$ jq -nc '[0,1,2,6] | map(nth(.; [0,1] | recurse([last, add]) | first))'
[0,1,1,8]

这种无限列表不可以不加限定的使用，也不可以对其进行取最后一个元素的运算last()。下面将其定义为新的命名过滤器：

def fib: nth(.; [0,1] | recurse([last, add]) | first);

下面的例子展示如何定义参数化的命名过滤器，它格式化从2到36含二者的任何底数的整数：

def tobase($b):
    def digit: "0123456789ABCDEFGHIJKLMNOPQRSTUVWXYZ"[.:.+1];
    def mod: . % $b;
    def div: ((. - mod) / $b);
    def place_values: recurse(select(. >= $b) | div) | mod;
    select(2 <= $b and $b <= 36)
    | [place_values | digit] | reverse | add;

将其保存入tobase.jq文件，接着使用这个函数：

$ echo '15 16' | jq 'include "./tobase"; tobase(16)'
"F"
"10"

下一个例子求解经典的覆面算数学游戏：

${\begin{matrix}&&{\text{S}}&{\text{E}}&{\text{N}}&{\text{D}}\\+&&{\text{M}}&{\text{O}}&{\text{R}}&{\text{E}}\\\hline =&{\text{M}}&{\text{O}}&{\text{N}}&{\text{E}}&{\text{Y}}\\\end{matrix}}$

从M是在最高位的进位可知：M为1，S为8或9，O为0，代码展示了基于range()和.[]的生成器：

def send_more_money:
    def choose(m; n; $k; used):
        ([range(m; n+1)] - [used[]])[]
        | used + {$k: .};
    def num(a; b; c; d): 1000*a + 100*b + 10*c + d;
    def num(a; b; c; d; e): 10*num(a; b; c; d) + e;
    choose(8; 9; "s"; {"m":1,"o":0}) as $t0
    | choose(2; 9; "e"; $t0) as $t1
    | choose(2; 9; "n"; $t1) as $t2
    | choose(2; 9; "d"; $t2) as $t3
    | choose(2; 9; "r"; $t3) as $t4
    | choose(2; 9; "y"; $t4) 
    | select(  num(.s; .e; .n; .d) 
        +      num(.m; .o; .r; .e)
        == num(.m; .o; .n; .e; .y))
    | [.s,.e,.n,.d,"+",.m,.o,.r,.e,"=",.m,.o,.n,.e,.y];
send_more_money

将上述代码保存入send_more_money.jq文件，接着使用这个函数得到这个谜题仅有的一个解：

$ jq -nc -f ./send_more_money.jq
[9,5,6,7,"+",1,0,8,5,"=",1,0,6,5,2]

解析表达式文法

在jq和解析表达式文法（PEG）形式化之间有密切关联。这种关联源于下列表格中展示的PEG七个基本运算与jq构造之间的等价性。

PEG运算与对应的jq等价者

PEG运算名字	PEG表示法	jq运算或def
序列	e1 e2	e1 | e2
有序选择	e1 / e2	e1 // e2
零或多个	e*	def star(E): (E | star(E)) // .;
一或多个	e+	def plus(E): E | (plus(E) // .);
可选	e?	def optional(E): E // .;
与断言	&e	def amp(E): . as $in | E | $in;
非断言	!e	def neg(E): select([E] == []);

八皇后问题例子

采用回溯法求解八皇后问题的例子代码：

def queens:
    def place(r; $c; pl):
        all(pl[0][]; . != $c)
        and all(pl[1][]; . != r+$c)
        and all(pl[2][]; . != r-$c);
    def q(r; pl):
        [range(0; 8)][] 
        | select(place(r; .; pl))
        | [pl[0]+[.], pl[1]+[r+.], pl[2]+[r-.]]; 
    q(0; [[],[],[]]) as $t0
    | q(1; $t0) as $t1
    | q(2; $t1) as $t2
    | q(3; $t2) as $t3
    | q(4; $t3) as $t4
    | q(5; $t4) as $t5
    | q(6; $t5) as $t6
    | q(7; $t6)[0]
    | map("abcdefgh"[.:.+1]) as $s
    | [$s[0]+"1", $s[1]+"2", $s[2]+"3", $s[3]+"4",
       $s[4]+"5", $s[5]+"6", $s[6]+"7", $s[7]+"8"]
    | sort;
queens

a b c d e f g h 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 a b c d e f g h 解1

a b c d e f g h 8 8 7 7 6 6 5 5 4 4 3 3 2 2 1 1 a b c d e f g h 解2

将这段代码保存入queens.jq文件中，下面演示其执行结果并提取其92个解中的前两个解：

$ jq -nc -f ./queens.jq | wc -l
92
$ jq -nc -f ./queens.jq | sed -n '1,2p'
["a1","b7","c5","d8","e2","f4","g6","h3"]
["a1","b7","c4","d6","e8","f2","g5","h3"]

这个存储传递风格实现的3种位置列表，共有3*9 = 27个列表和3*9*(0+8)/2 = 108个元素，而在能采用可逆（reversible）赋值和静态变量的语言比如Icon的实现中，其3个位置列表共有8+15+15 = 38个元素。

参考书目

• Janssens, Jeroen. Data Science at the Command Line. O'Reilly Media. 2021. ISBN 9781492087885 （英语）. 
• Janssens, Jeroen. Data Science at the Command Line: Facing the Future with Time-Tested Tools. O'Reilly Media. 2014. ISBN 9781491947807 （英语）. 
• Marrs, Tom. JSON at Work: Practical Data Integration for the Web. O'Reilly Media. 2017. ISBN 9781491982419 （英语）. 

外部链接

• jq homepage
• gojq - the Pure Go implementation
• jaq - the Rust implementation
• jqjq - the jq implementation
• jq FAQ
• Awesome jq - curated listing of jq-related resources
• The jq Programming Language page on the Rosetta Code comparative programming tasks project site