Tuesday, October 21, 2008

python regular expression

 

   
 

Python正则表达式操作指南


 

出自Ubuntu中文


 

 
 

原文出处:http://www.amk.ca/python/howto/regex/

原文作者:A.M. Kuchling (amk@amk.ca)

授权许可:创作共用协议

翻译人员:FireHare

校对人员:Leal

适用版本:Python 1.5 及后续版本




摘要



本文是通过Python的 re 模块来使用正则表达式的一个入门教程,和库参考手册的对应章节相比,更为浅显易懂、循序渐进。

本文可以从 http://www.amk.ca/python/howto 捕获



目录




目录




[编辑] 简介


Python 自1.5版本起增加了re 模块,它提供 Perl 风格的正则表达式模式。Python 1.5之前版本则是通过 regex 模块提供 Emecs 风格的模式。Emacs 风格模式可读性稍差些,而且功能也不强,因此编写新代码时尽量不要再使用 regex 模块,当然偶尔你还是可能在老代码里发现其踪影。



就其本质而言,正则表达式(或 RE)是一种小型的、高度专业化的编程语言,(在Python中)它内嵌在Python中,并通过 re 模块实现。使用这个小型语言,你可以为想要匹配的相应字符串集指定规则;该字符串集可能包含英文语句、e-mail地址、TeX命令或任何你想搞定的东西。然后你可以问诸如“这个字符串匹配该模式吗?”或“在这个字符串中是否有部分匹配该模式呢?”。你也可以使用 RE 以各种方式来修改或分割字符串。



正则表达式模式被编译成一系列的字节码,然后由用 C 编写的匹配引擎执行。在高级用法中,也许还要仔细留意引擎是如何执行给定 RE ,如何以特定方式编写 RE 以令生产的字节码运行速度更快。本文并不涉及优化,因为那要求你已充分掌握了匹配引擎的内部机制。



正则表达式语言相对小型和受限(功能有限),因此并非所有字符串处理都能用正则表达式完成。当然也有些任务可以用正则表达式完成,不过最终表达式会变得异常复杂。碰到这些情形时,编写 Python 代码进行处理可能反而更好;尽管 Python 代码比一个精巧的正则表达式要慢些,但它更易理解。


[编辑] 简单模式


我们将从最简单的正则表达式学习开始。由于正则表达式常用于字符串操作,那我们就从最常见的任务:字符匹配 下手。



有关正则表达式底层的计算机科学上的详细解释(确定性和非确定性有限自动机),你可以查阅编写编译器相关的任何教科书。


字符匹配


大多数字母和字符一般都会和自身匹配。例如,正则表达式 test 会和字符串“test”完全匹配。(你也可以使用大小写不敏感模式,它还能让这个 RE 匹配“Test”或“TEST”;稍后会有更多解释。)


这个规则当然会有例外;有些字符比较特殊,它们和自身并不匹配,而是会表明应和一些特殊的东西匹配,或者它们会影响到 RE 其它部分的重复次数。本文很大篇幅专门讨论了各种元字符及其作用。


这里有一个元字符的完整列表;其含义会在本指南馀下部分进行讨论。


. ^ $ * + ? { [ ] \ | ( )

我们首先考察的元字符是"[" 和 "]"。它们常用来指定一个字符类别,所谓字符类别就是你想匹配的一个字符集。字符可以单个列出,也可以用“-”号分隔的两个给定字符来表示一个字符区间。例如,[abc] 将匹配"a", "b", 或 "c"中的任意一个字符;也可以用区间[a-c]来表示同一字符集,和前者效果一致。如果你只想匹配小写字母,那么 RE 应写成 [a-z].


元字符在类别里并不起作用。例如,[akm$]将匹配字符"a", "k", "m", 或 "$" 中的任意一个;"$"通常用作元字符,但在字符类别里,其特性被除去,恢复成普通字符。


你可以用补集来匹配不在区间范围内的字符。其做法是把"^"作为类别的首个字符;其它地方的"^"只会简单匹配 "^"字符本身。例如,[^5] 将匹配除 "5" 之外的任意字符。


也许最重要的元字符是反斜杠"\"。 做为 Python 中的字符串字母,反斜杠后面可以加不同的字符以表示不同特殊意义。它也可以用于取消所有的元字符,这样你就可以在模式中匹配它们了。举个例子,如果你需要匹配字符 "[" 或 "\",你可以在它们之前用反斜杠来取消它们的特殊意义: \[ 或 \\。


一些用 "\" 开始的特殊字符所表示的预定义字符集通常是很有用的,象数字集,字母集,或其它非空字符集。下列是可用的预设特殊字符:



\d 匹配任何十进制数;它相当于类 [0-9]。
\D 匹配任何非数字字符;它相当于类 [^0-9]。
\s 匹配任何空白字符;它相当于类 [ \t\n\r\f\v]。
\S 匹配任何非空白字符;它相当于类 [^ \t\n\r\f\v]。
\w 匹配任何字母数字字符;它相当于类 [a-zA-Z0-9_]。
\W 匹配任何非字母数字字符;它相当于类 [^a-zA-Z0-9_]。




这样特殊字符都可以包含在一个字符类中。如,[\s,.]字符类将匹配任何空白字符或","或"."。


本节最后一个元字符是 . 。它匹配除了换行字符外的任何字符,在 alternate 模式(re.DOTALL)下它甚至可以匹配换行。"." 通常被用于你想匹配“任何字符”的地方。


[编辑] 重复


正则表达式第一件能做的事是能够匹配不定长的字符集,而这是其它能作用在字符串上的方法所不能做到的。 不过,如果那是正则表达式唯一的附加功能的话,那么它们也就不那么优秀了。它们的另一个功能就是你可以指定正则表达式的一部分的重复次数。

我们讨论的第一个重复功能的元字符是 *。* 并不匹配字母字符 "*";相反,它指定前一个字符可以被匹配零次或更多次,而不是只有一次。

举个例子,ca*t 将匹配 "ct" (0 个 "a" 字符), "cat" (1 个 "a"), "caaat" (3 个 "a" 字符)等等。RE 引擎有各种来自 C 的整数类型大小的内部限制,以防止它匹配超过2亿个 "a" 字符;你也许没有足够的内存去建造那么大的字符串,所以将不会累计到那个限制。

象 * 这样地重复是“贪婪的”;当重复一个 RE 时,匹配引擎会试着重复尽可能多的次数。如果模式的后面部分没有被匹配,匹配引擎将退回并再次尝试更小的重复。



一步步的示例可以使它更加清晰。让我们考虑表达式 a[bcd]*b。它匹配字母 "a",零个或更多个来自类 [bcd]中的字母,最后以 "b" 结尾。现在想一想该 RE 对字符串 "abcbd" 的匹配。


















StepMatchedExplanation
1aa 匹配模式
2abcbd引擎匹配 [bcd]*,并尽其所能匹配到字符串的结尾
3Failure引擎尝试匹配 b,但当前位置已经是字符的最后了,所以失败
4abcb退回,[bcd]*尝试少匹配一个字符。
5Failure再次尝次b,但在当前最后一位字符是"d"。
6abc再次退回,[bcd]*只匹配 "bc"。
7abcb再次尝试 b ,这次当前位上的字符正好是 "b"

RE 的结尾部分现在可以到达了,它匹配 "abcb"。这证明了匹配引擎一开始会尽其所能进行匹配,如果没有匹配然后就逐步退回并反复尝试 RE 剩下来的部分。直到它退回尝试匹配 [bcd] 到零次为止,如果随后还是失败,那么引擎就会认为该字符串根本无法匹配 RE 。



另一个重复元字符是 +,表示匹配一或更多次。请注意 * 和 + 之间的不同;* 匹配零或更多次,所以根本就可以不出现,而 + 则要求至少出现一次。用同一个例子,ca+t 就可以匹配 "cat" (1 个 "a"), "caaat" (3 个 "a"), 但不能匹配 "ct"。



还有更多的限定符。问号 ? 匹配一次或零次;你可以认为它用于标识某事物是可选的。例如:home-?brew 匹配 "homebrew" 或 "home-brew"。



最复杂的重复限定符是 {m,n},其中 m 和 n 是十进制整数。该限定符的意思是至少有 m 个重复,至多到 n 个重复。举个例子,a/{1,3}b 将匹配 "a/b","a//b" 和 "a///b"。它不能匹配 "ab" 因为没有斜杠,也不能匹配 "a////b" ,因为有四个。



你可以忽略 m 或 n;因为会为缺失的值假设一个合理的值。忽略 m 会认为下边界是 0,而忽略 n 的结果将是上边界为无穷大 -- 实际上是先前我们提到的 2 兆,但这也许同无穷大一样。



细心的读者也许注意到其他三个限定符都可以用这样方式来表示。 {0,} 等同于 *,{1,} 等同于 +,而{0,1}则与 ? 相同。如果可以的话,最好使用 *,+,或?。很简单因为它们更短也再容易懂。


[编辑] 使用正则表达式


现在我们已经看了一些简单的正则表达式,那么我们实际在 Python 中是如何使用它们的呢? re 模块提供了一个正则表达式引擎的接口,可以让你将 REs 编译成对象并用它们来进行匹配。


[编辑] 编译正则表达式


正则表达式被编译成 `RegexObject` 实例,可以为不同的操作提供方法,如模式匹配搜索或字符串替换。


#!python

>>> import re
>>> p = re.compile('ab*')
>>> print p
<re.RegexObject instance at 80b4150>

re.compile() 也接受可选的标志参数,常用来实现不同的特殊功能和语法变更。我们稍后将查看所有可用的设置,但现在只举一个例子:


#!python

>>> p = re.compile('ab*', re.IGNORECASE)

RE 被做为一个字符串发送给 re.compile()。REs 被处理成字符串是因为正则表达式不是 Python 语言的核心部分,也没有为它创建特定的语法。(应用程序根本就不需要 REs,因此没必要包含它们去使语言说明变得臃肿不堪。)而 re 模块则只是以一个 C 扩展模块的形式来被 Python 包含,就象 socket 或 zlib 模块一样。



将 REs 作为字符串以保证 Python 语言的简洁,但这样带来的一个麻烦就是象下节标题所讲的。


[编辑] 反斜杠的麻烦


在早期规定中,正则表达式用反斜杠字符 ("\") 来表示特殊格式或允许使用特殊字符而不调用它的特殊用法。这就与 Python 在字符串中的那些起相同作用的相同字符产生了冲突。



让我们举例说明,你想写一个 RE 以匹配字符串 "\section",可能是在一个 LATEX 文件查找。为了要在程序代码中判断,首先要写出想要匹配的字符串。接下来你需要在所有反斜杠和元字符前加反斜杠来取消其特殊意义。










字符阶段
\section 要匹配的字符串
\\section为 re.compile 取消反斜杠的特殊意义
"\\\\section"为字符串取消反斜杠



简单地说,为了匹配一个反斜杠,不得不在 RE 字符串中写 '\\\\',因为正则表达式中必须是 "\\",而每个反斜杠按 Python 字符串字母表示的常规必须表示成 "\\"。在 REs 中反斜杠的这个重复特性会导致大量重复的反斜杠,而且所生成的字符串也很难懂。



解决的办法就是为正则表达式使用 Python 的 raw 字符串表示;在字符串前加个 "r" 反斜杠就不会被任何特殊方式处理,所以 r"\n" 就是包含"\" 和 "n" 的两个字符,而 "\n" 则是一个字符,表示一个换行。正则表达式通常在 Python 代码中都是用这种 raw 字符串表示。










常规字符串Raw 字符串
"ab*"r"ab*"
"\\\\section"r"\\section"
"\\w+\\s+\\1"r"\w+\s+\1"

执行匹配


一旦你有了已经编译了的正则表达式的对象,你要用它做什么呢?`RegexObject` 实例有一些方法和属性。这里只显示了最重要的几个,如果要看完整的列表请查阅 Python Library Reference












方法/属性作用
match()决定 RE 是否在字符串刚开始的位置匹配
search()扫描字符串,找到这个 RE 匹配的位置
findall()找到 RE 匹配的所有子串,并把它们作为一个列表返回
finditer()找到 RE 匹配的所有子串,并把它们作为一个迭代器返回



如果没有匹配到的话,match() 和 search() 将返回 None。如果成功的话,就会返回一个 `MatchObject` 实例,其中有这次匹配的信息:它是从哪里开始和结束,它所匹配的子串等等。



你可以用采用人机对话并用 re 模块实验的方式来学习它。如果你有 Tkinter 的话,你也许可以考虑参考一下 Tools/scripts/redemo.py,一个包含在 Python 发行版里的示范程序。




首先,运行 Python 解释器,导入 re 模块并编译一个 RE:



#!python

Python 2.2.2 (#1, Feb 10 2003, 12:57:01)
>>> import re
>>> p = re.compile('[a-z]+')
>>> p
<_sre.SRE_Pattern object at 80c3c28>

现在,你可以试着用 RE 的 [a-z]+ 去匹配不同的字符串。一个空字符串将根本不能匹配,因为 + 的意思是 “一个或更多的重复次数”。 在这种情况下 match() 将返回 None,因为它使解释器没有输出。你可以明确地打印出 match() 的结果来弄清这一点。


#!python

>>> p.match("")
>>> print p.match("")
None

现在,让我们试着用它来匹配一个字符串,如 "tempo"。这时,match() 将返回一个 MatchObject。因此你可以将结果保存在变量里以便後面使用。


#!python

>>> m = p.match( 'tempo')
>>> print m
<_sre.SRE_Match object at 80c4f68>

现在你可以查询 `MatchObject` 关于匹配字符串的相关信息了。MatchObject 实例也有几个方法和属性;最重要的那些如下所示:












方法/属性作用
group()返回被 RE 匹配的字符串
start()返回匹配开始的位置
end()返回匹配结束的位置
span()返回一个元组包含匹配 (开始,结束) 的位置



试试这些方法不久就会清楚它们的作用了:


#!python

>>> m.group()
'tempo'
>>> m.start(), m.end()
(0, 5)
>>> m.span()
(0, 5)

group() 返回 RE 匹配的子串。start() 和 end() 返回匹配开始和结束时的索引。span() 则用单个元组把开始和结束时的索引一起返回。因为匹配方法检查到如果 RE 在字符串开始处开始匹配,那幺 start() 将总是为零。然而, `RegexObject` 实例的 search 方法扫描下面的字符串的话,在这种情况下,匹配开始的位置就也许不是零了。


#!python

>>> print p.match('::: message')
None
>>> m = p.search('::: message') ; print m
<re.MatchObject instance at 80c9650>
>>> m.group()
'message'
>>> m.span()
(4, 11)

在实际程序中,最常见的作法是将 `MatchObject` 保存在一个变量里,然後检查它是否为 None,通常如下所示:


#!python

p = re.compile( ... )
m = p.match( 'string goes here' )
if m:
print 'Match found: ', m.group()
else:
print 'No match'

两个 `RegexObject` 方法返回所有匹配模式的子串。findall()返回一个匹配字符串行表:


#!python

>>> p = re.compile('\d+')
>>> p.findall('12 drummers drumming, 11 pipers piping, 10 lords a-leaping')
['12', '11', '10']

findall() 在它返回结果时不得不创建一个列表。在 Python 2.2中,也可以用 finditer() 方法。


#!python

>>> iterator = p.finditer('12 drummers drumming, 11 ... 10 ...')
>>> iterator
<callable-iterator object at 0x401833ac>
>>> for match in iterator:
... print match.span()
...
(0, 2)
(22, 24)
(29, 31)

[编辑] 模块级函数


你不一定要产生一个 `RegexObject` 对象然后再调用它的方法;re 模块也提供了顶级函数调用如 match()、search()、sub() 等等。这些函数使用 RE 字符串作为第一个参数,而后面的参数则与相应 `RegexObject` 的方法参数相同,返回则要么是 None 要么就是一个 `MatchObject` 的实例。


#!python

>>> print re.match(r'From\s+', 'Fromage amk')
None
>>> re.match(r'From\s+', 'From amk Thu May 14 19:12:10 1998')
<re.MatchObject instance at 80c5978>

Under the hood, 这些函数简单地产生一个 RegexOject 并在其上调用相应的方法。它们也在缓存里保存编译后的对象,因此在将来调用用到相同 RE 时就会更快。



你将使用这些模块级函数,还是先得到一个 `RegexObject` 再调用它的方法呢?如何选择依赖于怎样用 RE 更有效率以及你个人编码风格。如果一个 RE 在代码中只做用一次的话,那么模块级函数也许更方便。如果程序包含很多的正则表达式,或在多处复用同一个的话,那么将全部定义放在一起,在一段代码中提前编译所有的 REs 更有用。从标准库中看一个例子,这是从 xmllib.py 文件中提取出来的:


#!python

ref = re.compile( ... )
entityref = re.compile( ... )
charref = re.compile( ... )
starttagopen = re.compile( ... )

我通常更喜欢使用编译对象,甚至它只用一次,but few people will be as much of a purist about this as I am。


[编辑] 编译标志


编译标志让你可以修改正则表达式的一些运行方式。在 re 模块中标志可以使用两个名字,一个是全名如 IGNORECASE,一个是缩写,一字母形式如 I。(如果你熟悉 Perl 的模式修改,一字母形式使用同样的字母;例如 re.VERBOSE的缩写形式是 re.X。)多个标志可以通过按位 OR-ing 它们来指定。如 re.I | re.M 被设置成 I 和 M 标志:



这有个可用标志表,对每个标志后面都有详细的说明。














标志含义
DOTALL, S使 . 匹配包括换行在内的所有字符
IGNORECASE, I使匹配对大小写不敏感
LOCALE, L 做本地化识别(locale-aware)匹配
MULTILINE, M多行匹配,影响 ^ 和 $
VERBOSE, X能够使用 REs 的 verbose 状态,使之被组织得更清晰易懂

I

IGNORECASE

使匹配对大小写不敏感;字符类和字符串匹配字母时忽略大小写。举个例子,[A-Z]也可以匹配小写字母,Spam 可以匹配 "Spam", "spam", 或 "spAM"。这个小写字母并不考虑当前位置。

L

LOCALE

影响 \w, \W, \b, 和 \B,这取决于当前的本地化设置。

locales 是 C 语言库中的一项功能,是用来为需要考虑不同语言的编程提供帮助的。举个例子,如果你正在处理法文文本,你想用 \w+ 来匹配文字,但 \w 只匹配字符类 [A-Za-z];它并不能匹配 "é" 或 "ç"。如果你的系统配置适当且本地化设置为法语,那么内部的 C 函数将告诉程序 "é" 也应该被认为是一个字母。当在编译正则表达式时使用 LOCALE 标志会得到用这些 C 函数来处理 \w 后的编译对象;这会更慢,但也会象你希望的那样可以用 \w+ 来匹配法文文本。

M

MULTILINE



(此时 ^ 和 $ 不会被解释; 它们将在 4.1 节被介绍.)



使用 "^" 只匹配字符串的开始,而 $ 则只匹配字符串的结尾和直接在换行前(如果有的话)的字符串结尾。当本标志指定后, "^" 匹配字符串的开始和字符串中每行的开始。同样的, $ 元字符匹配字符串结尾和字符串中每行的结尾(直接在每个换行之前)。

S

DOTALL

使 "." 特殊字符完全匹配任何字符,包括换行;没有这个标志, "." 匹配除了换行外的任何字符。

X

VERBOSE



该标志通过给予你更灵活的格式以便你将正则表达式写得更易于理解。当该标志被指定时,在 RE 字符串中的空白符被忽略,除非该空白符在字符类中或在反斜杠之后;这可以让你更清晰地组织和缩进 RE。它也可以允许你将注释写入 RE,这些注释会被引擎忽略;注释用 "#"号 来标识,不过该符号不能在字符串或反斜杠之后。



举个例子,这里有一个使用 re.VERBOSE 的 RE;看看读它轻松了多少?


#!python

charref = re.compile(r"""
&[[]] # Start of a numeric entity reference
(
[0-9]+[^0-9] # Decimal form
| 0[0-7]+[^0-7] # Octal form
| x[0-9a-fA-F]+[^0-9a-fA-F] # Hexadecimal form
)
""", re.VERBOSE)

没有 verbose 设置, RE 会看起来象这样:


#!python

charref = re.compile("&#([0-9]+[^0-9]"
"|0[0-7]+[^0-7]"
"|x[0-9a-fA-F]+[^0-9a-fA-F])")

在上面的例子里,Python 的字符串自动连接可以用来将 RE 分成更小的部分,但它比用 re.VERBOSE 标志时更难懂。


[编辑] 更多模式功能


到目前为止,我们只展示了正则表达式的一部分功能。在本节,我们将展示一些新的元字符和如何使用组来检索被匹配的文本部分。




[编辑] 更多的元字符


还有一些我们还没展示的元字符,其中的大部分将在本节展示。



剩下来要讨论的一部分元字符是零宽界定符(zero-width assertions)。它们并不会使引擎在处理字符串时更快;相反,它们根本就没有对应任何字符,只是简单的成功或失败。举个例子, \b 是一个在单词边界定位当前位置的界定符(assertions),这个位置根本就不会被 \b 改变。这意味着零宽界定符(zero-width assertions)将永远不会被重复,因为如果它们在给定位置匹配一次,那么它们很明显可以被匹配无数次。

|



可选项,或者 "or" 操作符。如果 A 和 B 是正则表达式,A|B 将匹配任何匹配了 "A" 或 "B" 的字符串。| 的优先级非常低,是为了当你有多字符串要选择时能适当地运行。Crow|Servo 将匹配"Crow" 或 "Servo", 而不是 "Cro", 一个 "w" 或 一个 "S", 和 "ervo"。



为了匹配字母 "|",可以用 \|,或将其包含在字符类中,如[|]。

^



匹配行首。除非设置 MULTILINE 标志,它只是匹配字符串的开始。在 MULTILINE 模式里,它也可以直接匹配字符串中的每个换行。



例如,如果你只希望匹配在行首单词 "From",那么 RE 将用 ^From。


#!python

>>> print re.search('^From', 'From Here to Eternity')
<re.MatchObject instance at 80c1520>
>>> print re.search('^From', 'Reciting From Memory')
None

$



匹配行尾,行尾被定义为要么是字符串尾,要么是一个换行字符后面的任何位置。


#!python

>>> print re.search('}$', '{block}')
<re.MatchObject instance at 80adfa8>
>>> print re.search('}$', '{block} ')
None
>>> print re.search('}$', '{block}\n')
<re.MatchObject instance at 80adfa8>

匹配一个 "$",使用 \$ 或将其包含在字符类中,如[$]。

\A



只匹配字符串首。当不在 MULTILINE 模式,\A 和 ^ 实际上是一样的。然而,在 MULTILINE 模式里它们是不同的;\A 只是匹配字符串首,而 ^ 还可以匹配在换行符之后字符串的任何位置。

\Z

Matches only at the end of the string.
只匹配字符串尾。

\b

单词边界。这是个零宽界定符(zero-width assertions)只用以匹配单词的词首和词尾。单词被定义为一个字母数字序列,因此词尾就是用空白符或非字母数字符来标示的。



下面的例子只匹配 "class" 整个单词;而当它被包含在其他单词中时不匹配。


#!python

>>> p = re.compile(r'\bclass\b')
>>> print p.search('no class at all')
<re.MatchObject instance at 80c8f28>
>>> print p.search('the declassified algorithm')
None
>>> print p.search('one subclass is')
None

当用这个特殊序列时你应该记住这里有两个微妙之处。第一个是 Python 字符串和正则表达式之间最糟的冲突。在 Python 字符串里,"\b" 是反斜杠字符,ASCII值是8。如果你没有使用 raw 字符串时,那么 Python 将会把 "\b" 转换成一个回退符,你的 RE 将无法象你希望的那样匹配它了。下面的例子看起来和我们前面的 RE 一样,但在 RE 字符串前少了一个 "r" 。


#!python

>>> p = re.compile('\bclass\b')
>>> print p.search('no class at all')
None
>>> print p.search('\b' + 'class' + '\b')
<re.MatchObject instance at 80c3ee0>

第二个在字符类中,这个限定符(assertion)不起作用,\b 表示回退符,以便与 Python 字符串兼容。

\B



另一个零宽界定符(zero-width assertions),它正好同 \b 相反,只在当前位置不在单词边界时匹配。


[编辑] 分组


你经常需要得到比 RE 是否匹配还要多的信息。正则表达式常常用来分析字符串,编写一个 RE 匹配感兴趣的部分并将其分成几个小组。举个例子,一个 RFC-822 的头部用 ":" 隔成一个头部名和一个值,这就可以通过编写一个正则表达式匹配整个头部,用一组匹配头部名,另一组匹配头部值的方式来处理。



组是通过 "(" 和 ")" 元字符来标识的。 "(" 和 ")" 有很多在数学表达式中相同的意思;它们一起把在它们里面的表达式组成一组。举个例子,你可以用重复限制符,象 *, +, ?, 和 {m,n},来重复组里的内容,比如说(ab)* 将匹配零或更多个重复的 "ab"。


#!python

>>> p = re.compile('(ab)*')
>>> print p.match('ababababab').span()
(0, 10)

组用 "(" 和 ")" 来指定,并且得到它们匹配文本的开始和结尾索引;这就可以通过一个参数用 group()、start()、end() 和 span() 来进行检索。组是从 0 开始计数的。组 0 总是存在;它就是整个 RE,所以 `MatchObject` 的方法都把组 0 作为它们缺省的参数。稍后我们将看到怎样表达不能得到它们所匹配文本的 span。


#!python

>>> p = re.compile('(a)b')
>>> m = p.match('ab')
>>> m.group()
'ab'
>>> m.group(0)
'ab'

小组是从左向右计数的,从1开始。组可以被嵌套。计数的数值可以能过从左到右计算打开的括号数来确定。


#!python

>>> p = re.compile('(a(b)c)d')
>>> m = p.match('abcd')
>>> m.group(0)
'abcd'
>>> m.group(1)
'abc'
>>> m.group(2)
'b'

group() 可以一次输入多个组号,在这种情况下它将返回一个包含那些组所对应值的元组。


#!python

>>> m.group(2,1,2)
('b', 'abc', 'b')

The groups() 方法返回一个包含所有小组字符串的元组,从 1 到 所含的小组号。


#!python

>>> m.groups()
('abc', 'b')

模式中的逆向引用允许你指定先前捕获组的内容,该组也必须在字符串当前位置被找到。举个例子,如果组 1 的内容能够在当前位置找到的话,\1 就成功否则失败。记住 Python 字符串也是用反斜杠加数据来允许字符串中包含任意字符的,所以当在 RE 中使用逆向引用时确保使用 raw 字符串。



例如,下面的 RE 在一个字符串中找到成双的词。


#!python

>>> p = re.compile(r'(\b\w+)\s+\1')
>>> p.search('Paris in the the spring').group()
'the the'

象这样只是搜索一个字符串的逆向引用并不常见 -- 用这种方式重复数据的文本格式并不多见 -- 但你不久就可以发现它们用在字符串替换上非常有用。


[编辑] 无捕获组和命名组


精心设计的 REs 也许会用很多组,既可以捕获感兴趣的子串,又可以分组和结构化 RE 本身。在复杂的 REs 里,追踪组号变得困难。有两个功能可以对这个问题有所帮助。它们也都使用正则表达式扩展的通用语法,因此我们来看看第一个。



Perl 5 对标准正则表达式增加了几个附加功能,Python 的 re 模块也支持其中的大部分。选择一个新的单按键元字符或一个以 "\" 开始的特殊序列来表示新的功能,而又不会使 Perl 正则表达式与标准正则表达式产生混乱是有难度的。如果你选择 "&" 做为新的元字符,举个例子,老的表达式认为 "&" 是一个正常的字符,而不会在使用 \& 或 [&] 时也不会转义。



Perl 开发人员的解决方法是使用 (?...) 来做为扩展语法。"?" 在括号后面会直接导致一个语法错误,因为 "?" 没有任何字符可以重复,因此它不会产生任何兼容问题。紧随 "?" 之后的字符指出扩展的用途,因此 (?=foo) 



Python 新增了一个扩展语法到 Perl 扩展语法中。如果在问号后的第一个字符是 "P",你就可以知道它是针对 Python 的扩展。目前有两个这样的扩展: (?P<name>...) 定义一个命名组,(?P=name) 则是对命名组的逆向引用。如果 Perl 5 的未来版本使用不同的语法增加了相同的功能,那么 re 模块也将改变以支持新的语法,这是为了兼容性的目的而保持的 Python 专用语法。



现在我们看一下普通的扩展语法,我们回过头来简化在复杂 REs 中使用组运行的特性。因为组是从左到右编号的,而且一个复杂的表达式也许会使用许多组,它可以使跟踪当前组号变得困难,而修改如此复杂的 RE 是十分麻烦的。在开始时插入一个新组,你可以改变它之后的每个组号。



首先,有时你想用一个组去收集正则表达式的一部分,但又对组的内容不感兴趣。你可以用一个无捕获组: (?:...) 来实现这项功能,这样你可以在括号中发送任何其他正则表达式。


#!python

>>> m = re.match("([abc])+", "abc")
>>> m.groups()
('c',)
>>> m = re.match("(?:[abc])+", "abc")
>>> m.groups()
()

除了捕获匹配组的内容之外,无捕获组与捕获组表现完全一样;你可以在其中放置任何字符,可以用重复元字符如 "*" 来重复它,可以在其他组(无捕获组与捕获组)中嵌套它。(?:...) 对于修改已有组尤其有用,因为你可以不用改变所有其他组号的情况下添加一个新组。捕获组和无捕获组在搜索效率方面也没什么不同,没有哪一个比另一个更快。



其次,更重要和强大的是命名组;与用数字指定组不同的是,它可以用名字来指定。



命令组的语法是 Python 专用扩展之一: (?P<name>...)。名字很明显是组的名字。除了该组有个名字之外,命名组也同捕获组是相同的。`MatchObject` 的方法处理捕获组时接受的要么是表示组号的整数,要么是包含组名的字符串。命名组也可以是数字,所以你可以通过两种方式来得到一个组的信息:


#!python

>>> p = re.compile(r'(?P<word>\b\w+\b)')
>>> m = p.search( '(((( Lots of punctuation )))' )
>>> m.group('word')
'Lots'
>>> m.group(1)
'Lots'

命名组是便于使用的,因为它可以让你使用容易记住的名字来代替不得不记住的数字。这里有一个来自 imaplib 模块的 RE 示例:


#!python

InternalDate = re.compile(r'INTERNALDATE "'
r'(?P<day>[ 123][0-9])-(?P<mon>[A-Z][a-z][a-z])-'
 r'(?P<year>[0-9][0-9][0-9][0-9])'
r' (?P<hour>[0-9][0-9]):(?P<min>[0-9][0-9]):(?P<sec>[0-9][0-9])'
r' (?P<zonen>[-+])(?P<zoneh>[0-9][0-9])(?P<zonem>[0-9][0-9])'
r'"')

很明显,得到 m.group('zonem') 要比记住得到组 9 要容易得多。



因为逆向引用的语法,象 (...)\1 这样的表达式所表示的是组号,这时用组名代替组号自然会有差别。还有一个 Python 扩展:(?P=name) ,它可以使叫 name 的组内容再次在当前位置发现。正则表达式为了找到重复的单词,(\b\w+)\s+\1 也可以被写成 (?P<word>\b\w+)\s+(?P=word):


#!python

>>> p = re.compile(r'(?P<word>\b\w+)\s+(?P=word)')
>>> p.search('Paris in the the spring').group()
'the the'

[编辑] 前向界定符


另一个零宽界定符(zero-width assertion)是前向界定符。前向界定符包括前向肯定界定符和后向肯定界定符,所下所示:

(?=...)

前向肯定界定符。如果所含正则表达式,以 ... 表示,在当前位置成功匹配时成功,否则失败。但一旦所含表达式已经尝试,匹配引擎根本没有提高;模式的剩余部分还要尝试界定符的右边。

(?!...)

前向否定界定符。与肯定界定符相反;当所含表达式不能在字符串当前位置匹配时成功



通过示范在哪前向可以成功有助于具体实现。考虑一个简单的模式用于匹配一个文件名,并将其通过 "." 分成基本名和扩展名两部分。如在 "news.rc" 中,"news" 是基本名,"rc" 是文件的扩展名。



匹配模式非常简单:



.*[.].*$

注意 "." 需要特殊对待,因为它是一个元字符;我把它放在一个字符类中。另外注意后面的 $; 添加这个是为了确保字符串所有的剩余部分必须被包含在扩展名中。这个正则表达式匹配 "foo.bar"、"autoexec.bat"、 "sendmail.cf" 和 "printers.conf"。



现在,考虑把问题变得复杂点;如果你想匹配的扩展名不是 "bat" 的文件名?一些不正确的尝试:



.*[.][^b].*$

上面的第一次去除 "bat" 的尝试是要求扩展名的第一个字符不是 "b"。这是错误的,因为该模式也不能匹配 "foo.bar"。



.*[.]([^b]..|.[^a].|..[^t])$

当你试着修补第一个解决方法而要求匹配下列情况之一时表达式更乱了:扩展名的第一个字符不是 "b"; 第二个字符不是 "a";或第三个字符不是 "t"。这样可以接受 "foo.bar" 而拒绝 "autoexec.bat",但这要求只能是三个字符的扩展名而不接受两个字符的扩展名如 "sendmail.cf"。我们将在努力修补它时再次把该模式变得复杂。



.*[.]([^b].?.?|.[^a]?.?|..?[^t]?)$

在第三次尝试中,第二和第三个字母都变成可选,为的是允许匹配比三个字符更短的扩展名,如 "sendmail.cf"。



该模式现在变得非常复杂,这使它很难读懂。更糟的是,如果问题变化了,你想扩展名不是 "bat" 和 "exe",该模式甚至会变得更复杂和混乱。



前向否定把所有这些裁剪成:



.*[.](?!bat$).*$

前向的意思:如果表达式 bat 在这里没有匹配,尝试模式的其余部分;如果 bat$ 匹配,整个模式将失败。后面的 $ 被要求是为了确保象 "sample.batch" 这样扩展名以 "bat" 开头的会被允许。



将另一个文件扩展名排除在外现在也容易;简单地将其做为可选项放在界定符中。下面的这个模式将以 "bat" 或 "exe" 结尾的文件名排除在外。



.*[.](?!bat$|exe$).*$

[编辑] 修改字符串


到目前为止,我们简单地搜索了一个静态字符串。正则表达式通常也用不同的方式,通过下面的 `RegexObject` 方法,来修改字符串。










方法/属性作用
split()将字符串在 RE 匹配的地方分片并生成一个列表,
sub()找到 RE 匹配的所有子串,并将其用一个不同的字符串替换
subn()与 sub() 相同,但返回新的字符串和替换次数

[编辑] 将字符串分片


`RegexObject` 的 split() 方法在 RE 匹配的地方将字符串分片,将返回列表。它同字符串的 split() 方法相似但提供更多的定界符;split()只支持空白符和固定字符串。就象你预料的那样,也有一个模块级的 re.split() 函数。



split(string [, maxsplit = 0])

通过正则表达式将字符串分片。如果捕获括号在 RE 中使用,那么它们的内容也会作为结果列表的一部分返回。如果 maxsplit 非零,那么最多只能分出 maxsplit 个分片。



你可以通过设置 maxsplit 值来限制分片数。当 maxsplit 非零时,最多只能有 maxsplit 个分片,字符串的其余部分被做为列表的最后部分返回。在下面的例子中,定界符可以是非数字字母字符的任意序列。


#!python

>>> p = re.compile(r'\W+')
>>> p.split('This is a test, short and sweet, of split().')
['This', 'is', 'a', 'test', 'short', 'and', 'sweet', 'of', 'split', '']
>>> p.split('This is a test, short and sweet, of split().', 3)
['This', 'is', 'a', 'test, short and sweet, of split().']

有时,你不仅对定界符之间的文本感兴趣,也需要知道定界符是什么。如果捕获括号在 RE 中使用,那么它们的值也会当作列表的一部分返回。比较下面的调用:


#!python

>>> p = re.compile(r'\W+')
>>> p2 = re.compile(r'(\W+)')
>>> p.split('This... is a test.')
['This', 'is', 'a', 'test', '']
>>> p2.split('This... is a test.')
['This', '... ', 'is', ' ', 'a', ' ', 'test', '.', '']

模块级函数 re.split() 将 RE 作为第一个参数,其他一样。


#!python

>>> re.split('[\W]+', 'Words, words, words.')
['Words', 'words', 'words', '']
>>> re.split('([\W]+)', 'Words, words, words.')
['Words', ', ', 'words', ', ', 'words', '.', '']
>>> re.split('[\W]+', 'Words, words, words.', 1)
['Words', 'words, words.']

[编辑] 搜索和替换


其他常见的用途就是找到所有模式匹配的字符串并用不同的字符串来替换它们。sub() 方法提供一个替换值,可以是字符串或一个函数,和一个要被处理的字符串。



sub(replacement, string[, count = 0])

返回的字符串是在字符串中用 RE 最左边不重复的匹配来替换。如果模式没有发现,字符将被没有改变地返回。



可选参数 count 是模式匹配后替换的最大次数;count 必须是非负整数。缺省值是 0 表示替换所有的匹配。



这里有个使用 sub() 方法的简单例子。它用单词 "colour" 替换颜色名。


#!python

>>> p = re.compile( '(blue|white|red)')
>>> p.sub( 'colour', 'blue socks and red shoes')
'colour socks and colour shoes'
>>> p.sub( 'colour', 'blue socks and red shoes', count=1)
'colour socks and red shoes'

subn() 方法作用一样,但返回的是包含新字符串和替换执行次数的两元组。


#!python

>>> p = re.compile( '(blue|white|red)')
>>> p.subn( 'colour', 'blue socks and red shoes')
('colour socks and colour shoes', 2)
>>> p.subn( 'colour', 'no colours at all')
('no colours at all', 0)

空匹配只有在它们没有紧挨着前一个匹配时才会被替换掉。


#!python

>>> p = re.compile('x*')
>>> p.sub('-', 'abxd')
'-a-b-d-'

如果替换的是一个字符串,任何在其中的反斜杠都会被处理。"\n" 将会被转换成一个换行符,"\r"转换成回车等等。未知的转义如 "\j" 则保持原样。逆向引用,如 "\6",被 RE 中相应的组匹配而被子串替换。这使你可以在替换后的字符串中插入原始文本的一部分。



这个例子匹配被 "{" 和 "}" 括起来的单词 "section",并将 "section" 替换成 "subsection"。


#!python

>>> p = re.compile('section{ ( [^}]* ) }', re.VERBOSE)
>>> p.sub(r'subsection{\1}','section{First} section{second}')
'subsection{First} subsection{second}'

还可以指定用 (?P<name>...) 语法定义的命名组。"\g<name>" 将通过组名 "name" 用子串来匹配,并且 "\g<number>" 使用相应的组号。所以 "\g<2>" 等于 "\2",但能在替换字符串里含义不清,如 "\g<2>0"。("\20" 被解释成对组 20 的引用,而不是对后面跟着一个字母 "0" 的组 2 的引用。)


#!python

>>> p = re.compile('section{ (?P<name> [^}]* ) }', re.VERBOSE)
>>> p.sub(r'subsection{\1}','section{First}')
'subsection{First}'
>>> p.sub(r'subsection{\g<1>}','section{First}')
'subsection{First}'
>>> p.sub(r'subsection{\g<name>}','section{First}')
'subsection{First}'

替换也可以是一个甚至给你更多控制的函数。如果替换是个函数,该函数将会被模式中每一个不重复的匹配所调用。在每个调用时,函数被作为 `MatchObject` 的匹配函属,并可以使用这个信息去计算预期的字符串并返回它。



在下面的例子里,替换函数将十进制翻译成十六进制:


#!python

>>> def hexrepl( match ):
... "Return the hex string for a decimal number"
... value = int( match.group() )
... return hex(value)
...
>>> p = re.compile(r'\d+')
>>> p.sub(hexrepl, 'Call 65490 for printing, 49152 for user code.')
'Call 0xffd2 for printing, 0xc000 for user code.'

当使用模块级的 re.sub() 函数时,模式作为第一个参数。模式也许是一个字符串或一个 `RegexObject`;如果你需要指定正则表达式标志,你必须要么使用 `RegexObject` 做第一个参数,或用使用模式内嵌修正器,如 sub("(?i)b+", "x", "bbbb BBBB") returns 'x x'。


[编辑] 常见问题


正则表达式对一些应用程序来说是一个强大的工具,但在有些时候它并不直观而且有时它们不按你期望的运行。本节将指出一些最容易犯的常见错误。


[编辑] 使用字符串方式


有时使用 re 模块是个错误。如果你匹配一个固定的字符串或单个的字符类,并且你没有使用 re 的任何象 IGNORECASE 标志的功能,那么就没有必要使用正则表达式了。字符串有一些方法是对固定字符串进行操作的,它们通常快很多,因为都是一个个经过优化的C 小循环,用以代替大的、更具通用性的正则表达式引擎。



举个用一个固定字符串替换另一个的例子;如,你可以把 "deed" 替换成 "word"。re.sub() seems like the function to use for this, but consider the replace() method. 注意 replace() 也可以在单词里面进行替换,可以把 "swordfish" 变成 "sdeedfish",不过 RE 也是可以做到的。(为了避免替换单词的一部分,模式将写成 \bword\b,这是为了要求 "word" 两边有一个单词边界。这是个超出替换能力的工作)。



另一个常见任务是从一个字符串中删除单个字符或用另一个字符来替代它。你也许可以用象 re.sub('\n',' ',S) 这样来实现,但 translate() 能够实现这两个任务,而且比任何正则表达式操作起来更快。



总之,在使用 re 模块之前,先考虑一下你的问题是否可以用更快、更简单的字符串方法来解决。


[编辑] match() vs search()


match() 函数只检查 RE 是否在字符串开始处匹配,而 search() 则是扫描整个字符串。记住这一区别是重要的。记住,match() 只报告一次成功的匹配,它将从 0 处开始;如果匹配不是从 0 开始的,match() 将不会报告它。


#!python

>>> print re.match('super', 'superstition').span()
(0, 5)
>>> print re.match('super', 'insuperable')
None

另一方面,search() 将扫描整个字符串,并报告它找到的第一个匹配。


#!python

>>> print re.search('super', 'superstition').span()
(0, 5)
>>> print re.search('super', 'insuperable').span()
(2, 7)

有时你可能倾向于使用 re.match(),只在RE的前面部分添加 .* 。请尽量不要这么做,最好采用 re.search() 代替之。正则表达式编译器会对 REs 做一些分析以便可以在查找匹配时提高处理速度。一个那样的分析机会指出匹配的第一个字符是什么;举个例子,模式 Crow 必须从 "C" 开始匹配。分析机可以让引擎快速扫描字符串以找到开始字符,并只在 "C" 被发现后才开始全部匹配。

添加 .* 会使这个优化失败,这就要扫描到字符串尾部,然后回溯以找到 RE 剩余部分的匹配。使用 re.search() 代替。


[编辑] 贪婪 vs 不贪婪


当重复一个正则表达式时,如用 a*,操作结果是尽可能多地匹配模式。当你试着匹配一对对称的定界符,如 HTML 标志中的尖括号时这个事实经常困扰你。匹配单个 HTML 标志的模式不能正常工作,因为 .* 的本质是“贪婪”的


#!python

>>> s = '<html><head><title>Title</title>'
>>> len(s)
32
>>> print re.match('<.*>', s).span()
(0, 32)
>>> print re.match('<.*>', s).group()
<html><head><title>Title</title>

RE 匹配 在 "<html>" 中的 "<",.* 消耗掉子符串的剩余部分。在 RE 中保持更多的左,虽然 > 不能匹配在字符串结尾,因此正则表达式必须一个字符一个字符地回溯,直到它找到 > 的匹配。最终的匹配从 "<html" 中的 "<" 到 "</title>" 中的 ">",这并不是你所想要的结果。



在这种情况下,解决方案是使用不贪婪的限定符 *?、+?、?? 或 {m,n}?,尽可能匹配小的文本。在上面的例子里, ">" 在第一个 "<" 之后被立即尝试,当它失败时,引擎一次增加一个字符,并在每步重试 ">"。这个处理将得到正确的结果:


#!python

>>> print re.match('<.*?>', s).group()
<html>

注意用正则表达式分析 HTML 或 XML 是痛苦的。变化混乱的模式将处理常见情况,但 HTML 和 XML 则是明显会打破正则表达式的特殊情况;当你编写一个正则表达式去处理所有可能的情况时,模式将变得非常复杂。象这样的任务用 HTML 或 XML 解析器。


[编辑] 不用 re.VERBOSE


现在你可能注意到正则表达式的表示是十分紧凑,但它们非常不好读。中度复杂的 REs 可以变成反斜杠、圆括号和元字符的长长集合,以致于使它们很难读懂。



在这些 REs 中,当编译正则表达式时指定 re.VERBOSE 标志是有帮助的,因为它允许你可以编辑正则表达式的格式使之更清楚。



re.VERBOSE 标志有这么几个作用。在正则表达式中不在字符类中的空白符被忽略。这就意味着象 dog | cat 这样的表达式和可读性差的 dog|cat 相同,但 [a b] 将匹配字符 "a"、"b" 或 空格。另外,你也可以把注释放到 RE 中;注释是从 "#" 到下一行。当使用三引号字符串时,可以使 REs 格式更加干净:


#!python

pat = re.compile(r"""
\s* # Skip leading whitespace
(?P<header>[^:]+) # Header name
\s* : # Whitespace, and a colon
(?P<value>.*?) # The header's value -- *? used to
# lose the following trailing whitespace
\s*$ # Trailing whitespace to end-of-line
""", re.VERBOSE)

这个要难读得多:


#!python

pat = re.compile(r"\s*(?P<header>[^:]+)\s*:(?P<value>.*?)\s*$")

[编辑] 反馈


正则表达式是一个复杂的主题。本文能否有助于你理解呢?那些部分是否不清晰,或在这儿没有找到你所遇到的问题?如果是那样的话,请将建议发给作者以便改进。

描述正则表达式最全面的书非Jeffrey Friedl 写的《精通正则表达式》莫属,该书由O'Reilly 出版。可惜该书只专注于 Perl 和 Java 风格的正则表达式,不含任何 Python 材料,所以不足以用作Python编程时的参考。(第一版包含有 Python 现已过时的 regex 模块,自然用处不大)。

《精通正则表达式》第三版已经有部分正则表达式使用python说明,另外PHP风格的更是独立一个章节说明。--why

Tuesday, October 14, 2008

batch file scripts

refer to http://www.robvanderwoude.com/battech.html and any related pages for fantastic description 

also refer to http://weblogs.asp.net/jgalloway/archive/2006/11/20/top-10-dos-batch-tips-yes-dos-batch.aspx for some useful tips

<br /> Top 10 DOS Batch tips (Yes, DOS Batch...) - Jon Galloway <br />

  • Use PUSHD / POPD to change directories
    Read Scott Hanselman's writeup on PUSHD. The basic idea is that it keeps a stack, so at the simplest level you can do something like this:

    PUSHD "C:\Working Directory\"
    ::DO SOME WORK
    POPD

    That allows you to call the batch file from any directory and return to the original directory when you're done. The cool thing is that PUSHD can be nested, so you can move all over the place within your scripts and just POPD your way out when you're done.

  • Call FTP scripts
    This sample prompts for the username and password, but they can of course be hardcoded if you're feeling lucky.

    set FTPADDRESS=ftp.myserver.com
    set SITEBACKUPFILE=FileToTransfer.zip

    set /p FTPUSERNAME=Enter FTP User Name: 
    set /p FTPPASSWORD=Enter FTP Password: 
    CLS
    > script.ftp USER
    >>script.ftp ECHO %FTPUSERNAME%
    >>script.ftp ECHO %FTPPASSWORD%
    >>script.ftp ECHO binary
    >>script.ftp ECHO prompt n
    :: Use put instead of
    get to upload the file
    >>script.ftp ECHO get %SITEBACKUPFILE%
    >>script.ftp ECHO bye
    FTP
    -v -s:script.ftp %FTPADDRESS%
    TYPE NUL
    >script.ftp
    DEL script.ftp

  • Read from the registry
    You can make creative use of the FOR command to read from and parse a registry value (see my previous post for more info).

    FOR /F "tokens=2* delims= " %%A IN ('REG QUERY "HKEY_LOCAL_MACHINE\SOFTWARE\Microsoft\Microsoft SQL Server\Instance Names\SQL" /v SQL2005') DO SET SQLINSTANCE=%%B

  • Run SQL Commands
    You can call OSQL (or SQLCMD on servers with SQL 2005 installed) to execute SQL commands: 
    osql -E -d master -Q "BACKUP DATABASE [%DATABASENAME%] TO DISK = N'D:\DataBase\Backups\%DATABASENAME%_backup' WITH INIT , NOUNLOAD , NAME = N'%DATABASENAME% backup', NOSKIP , STATS = 10, NOFORMAT"

  • Check if a file or folder exists
    I used this to do a quick and dirty check to see if a Windows Hotfix had been installed in my IE7 Standalone scripts:

    IF EXIST %SystemRoot%\$NtUninstallKB915865$\ GOTO KB_INSTALLED
    ECHO Installing Hotfix (KB915865) to allow tab support
    START
    /D "%~dp0/Installation/Update/" xmllitesetup.exe

  • Pause execution for a number of seconds
    There are different ways to do this from within a batch file, all with their tradeoffs. I use a ping to an invalid IP address with a timeout. The best way to do this is to find an invalid IP address and then pint it, but 1.1.1.1 is a pretty safe bet:

    ECHO Waiting 15 seconds
    PING
    1.1.1.1 -n 1 -w 15000 > NUL

  • Use defaults for optional parameters
    It's not really easy to check for a missing parameter. You have to use something like "IF dummy==%1dummy", which will only be true if %1 is empty. So, for example, here we're allowing a user to supply an application path via the third parameter, and defaulting it if it's missing. By the way, beware the IF syntax. The line spacing makes a difference, so this is one that I just copy and paste to avoid figuring it out every time.

    IF dummy==dummy%3 (
    SET APPLICATIONPATH
    ="C:\Program Files\MyApp\"
    ) ELSE (
    SET APPLICATIONPATH
    = %3
    )

  • Process each file matching a pattern in a directory
    I previously posted a script which iterates all files named *.bak in a directory and restores them on the local instance of SQL Server. Here's an excerpt:

    PUSHD %BACKUPDIRECTORY%
    FOR
    %%A in (*.bak) do CALL :Subroutine %%A
    POPD
    GOTO:EOF

    :Subroutine
    set DBNAME=%~n1
    ::RUN SOME OSQL COMMANDS TO RESTORE THE BACKUP
    GOTO:EOF

  • Use batch parameter expansion to avoid parsing file or directory info
    Batch file parameters are read as %1, %2, etc. DOS Command Extensions - available on Windows 2000 and up - add a lot of automatic parsing and expansion that really simplifies reading filenames passed in as parameters. I originally put this at the top of the list, but I moved it because I figured the insane syntax would drive people off. I wrote a simple batch script that shows some examples. I think that makes it a little more readable. Stick with me, I think this is one of the best features in DOS batch and is worth learning.

    First, here's the batch file which just echos the processed parameters:

  • @echo off
    echo
    %%~1 = %~1 
    echo
    %%~f1 = %~f1
    echo
    %%~d1 = %~d1
    echo
    %%~p1 = %~p1
    echo
    %%~n1 = %~n1
    echo
    %%~x1 = %~x1
    echo
    %%~s1 = %~s1
    echo
    %%~a1 = %~a1
    echo
    %%~t1 = %~t1
    echo
    %%~z1 = %~z1
    echo
    %%~$PATHATH:1 = %~$PATHATH:1
    echo
    %%~dp1 = %~dp1
    echo
    %%~nx1 = %~nx1
    echo
    %%~dp$PATH:1 = %~dp$PATH:1
    echo
    %%~ftza1 = %~ftza1



    Now we'll call it, passing in "C:\Windows\Notepad.exe" as a parameter:

    C:\Temp>batchparams.bat c:\windows\notepad.exe
    %~1 = c:\windows\notepad.exe
    %~f1 = c:\WINDOWS\NOTEPAD.EXE
    %~d1 = c:
    %~p1 = \WINDOWS\
    %~n1 = NOTEPAD
    %~x1 = .EXE
    %~s1 = c:\WINDOWS\NOTEPAD.EXE
    %~a1 = --a------
    %~t1 = 08/25/2005 01:50 AM
    %~z1 = 17920
    %~$PATHATH:1 =
    %~dp1 = c:\WINDOWS\
    %~nx1 = NOTEPAD.EXE
    %~dp$PATH:1 = c:\WINDOWS\
    %~ftza1 = --a------ 08/25/2005 01:50 AM 17920 c:\WINDOWS\NOTEPAD.EXE



    As I said, the syntax is completely crazy, but it's easy to look them up - just type HELP CALL at a DOS prompt; it gives you this:

    %~1 - expands %1 removing any surrounding quotes (")
    %~f1 - expands %1 to a fully qualified path name
    %~d1 - expands %1 to a drive letter only
    %~p1 - expands %1 to a path only
    %~n1 - expands %1 to a file name only
    %~x1 - expands %1 to a file extension only
    %~s1 - expanded path contains short names only
    %~a1 - expands %1 to file attributes
    %~t1 - expands %1 to date/time of file
    %~z1 - expands %1 to size of file
    %~$PATH:1 - searches the directories listed in the PATH environment variable and expands %1 to the fully qualified name of the first one found. If the environment variable name is not defined or the file is not found by the search, then this modifier expands to the empty string

    The modifiers can be combined to get compound results:

    %~dp1 - expands %1 to a drive letter and path only
    %~nx1 - expands %1 to a file name and extension only
    %~dp$PATH:1 - searches the directories listed in the PATH environment variable for %1 and expands to the drive letter and path of the first one found.
    %~ftza1 - expands %1 to a DIR like output line

    In the above examples %1 and PATH can be replaced by other valid values. The %~ syntax is terminated by a valid argument number. The %~ modifiers may not be used with %*


  • Learn from the masters
    By far, my favorite resource for DOS Batch trickery is the Batch Files section of Rob van der Woude's Scripting Pages. He's got some good PowerShell resources, too.

  • What about you? Got any favorite DOS Batch tricks?


       


    Friday, October 10, 2008

    video demystified

    YUV Color Space

    The YUV color space is used by the PAL

    (Phase Alternation Line), NTSC (National
    Television System Committee), and SECAM
    (Sequentiel Couleur Avec Mémoire or Sequential
    Color with Memory) composite color video
    standards. The black-and-white system used
    only luma (Y) information; color information
    (U and V) was added in such a way that a
    black-and-white receiver would still display a
    normal black-and-white picture. Color receivers
    decoded the additional color information to
    display a color picture.

    The basic equations to convert between

    gamma-corrected RGB (notated as R´G´B´ and
    discussed later in this chapter) and YUV are:
    Y = 0.299R´ + 0.587G´ + 0.114B´
    U = – 0.147R´ – 0.289G´ + 0.436B´
    = 0.492 (B´ – Y)
    V = 0.615R´ – 0.515G´ – 0.100B´
    = 0.877(R´ – Y)

    YIQ Color Space
    The YIQ color space, further discussed in
    Chapter 8, is derived from the YUV color space
    and is optionally used by the NTSC composite
    color video standard. (The “I” stands for “inphase”
    and the “Q” for “quadrature,”

    YCbCr Color Space
    The YCbCr color space was developed as
    part of ITU-R BT.601 during the development
    of a world-wide digital component video standard
    (discussed in Chapter 4). YCbCr is a
    scaled and offset version of the YUV color
    space. Y is defined to have a nominal 8-bit
    range of 16–235; Cb and Cr are defined to have
    a nominal range of 16–240. There are several
    YCbCr sampling formats, such as 4:4:4, 4:2:2,
    4:1:1, and 4:2:0 that are also described.

    4:4:4 YCbCr Format

    Figure 3.2 illustrates the positioning of
    YCbCr samples for the 4:4:4 format. Each sample
    has a Y, a Cb and a Cr value. Each sample is
    typically 8 bits (consumer applications) or 10
    bits (pro-video applications) per component.
    Each sample therefore requires 24 bits (or 30
    bits for pro-video applications).

    4:2:2 YCbCr Format
    Figure 3.3 illustrates the positioning of
    YCbCr samples for the 4:2:2 format. For every
    two horizontal Y samples, there is one Cb and
    Cr sample. Each sample is typically 8 bits (consumer
    applications) or 10 bits (pro-video applications)
    per component. Each sample
    therefore requires 16 bits (or 20 bits for provideo
    applications), usually formatted as
    shown in Figure 3.4.
    To display 4:2:2 YCbCr data, it is first converted
    to 4:4:4 YCbCr data, using interpolation
    to generate the missing Cb and Cr samples.

    4:2:0 YCbCr Format
    Rather than the horizontal-only 2:1 reduction
    of Cb and Cr used by 4:2:2, 4:2:0 YCbCr
    implements a 2:1 reduction of Cb and Cr in
    both the vertical and horizontal directions. It is
    commonly used for video compression.
    As shown in Figures 3.7 through 3.11,
    there are several 4:2:0 sampling formats. Table
    3.3 lists the YCbCr formats for various DV
    applications.
    To display 4:2:0 YCbCr data, it is first converted
    to 4:4:4 YCbCr data, using interpolation
    to generate the new Cb and Cr samples. Note
    that some MPEG decoders do not properly
    convert the 4:2:0 YCbCr data to the 4:4:4 format,
    resulting in a “chroma bug.”

    Gamma Correction
    The transfer function of most CRT displays
    produces an intensity that is proportional to
    some power (referred to as gamma) of the signal
    amplitude. As a result, high-intensity
    ranges are expanded and low-intensity ranges
    are compressed (see Figure 3.17). This is an
    advantage in combatting noise, as the eye is
    approximately equally sensitive to equally relative
    intensity changes. By “gamma correcting”
    the video signals before transmission, the
    intensity output of the display is roughly linear
    (the gray line in Figure 3.17), and transmission-
    induced noise is reduced.
    To minimize noise in the darker areas of
    the image, modern video systems limit the
    gain of the curve in the black region. This
    technique limits the gain close to black and
    stretches the remainder of the curve to maintain
    function and tangent continuity.
    Although video standards assume a display
    gamma of about 2.2, a gamma of about 2.5
    is more realistic for CRT displays. However,
    this difference improves the viewing in a dimly
    lit environment.

    Thursday, October 9, 2008

    cshell script

    basic

    Shell variables can be created using the set name=value construct; they are henceforth referenced by prepending the shell variable name with a dollar: say, echo $name

    variable

    Variables can be used in C shell by typing a dollar sign ($) before the variable name. If the variable is an array, the subscript can be specified using brackets, and the number of elements can be obtained using the form $#var2.

    The existence of variables can be checked using the form $?variable
         if (! $?var) set var=abc

    Simple integer calculations can be performed by C shell, using C language-type operators. To assign a calculated value, the @ command is used as follows: 
    @ var = $a + $x * $z

    quotions

    Ticks don't recognise certain characters in the shell. Ticks don't honour special characters such as the dollar sign. (')

    we can use ticks and quotes interchangeably unless we need to honour special characters in the shell.(")

    You can always use the backslash to quote a character. However, within the single quote mechanism, "\'" does not "quote the quote." The proper way to do this is as follows: 
    % echo 'Don' \' 't do that'
    Don ' t do that

    The purpose of a backtick is to be able to run a command, and capture the output of
    that command.  (`) Say:DATE=`date`

    job control

    Processes may be started in the background by following the command with an ampersand (&).

    When a job is placed in the background, information for the job is shown similar to the example given below: 
    [1] 15934

    This specifies that the process has been placed in the background, and is job 1. In order to recall jobs placed in the background, the fg command is used, while the bg command places a recently stopped process into the background. The jobs command gives a list of all processes under control of the current shell. Also, typing a percent sign (%) with the job number brings that particular job to the foreground.

    file judgement

    =~     If the right hand side matches a pattern, (i.e., similar to filename matching, with asterisks and question marks.) the condition is true.

     !~     If the right hand side doesn't match a pattern, the condition is true.

    -d $var     True if the file is a directory.

    -e $var     True if the file exists.

    -f $var     True if the file is a file. (I.e., not a directory)

    -o $var     True if the file is owned by the user.

    -r $var     True if the user has read access.

    -w $var     True if the user has write access.

    -x $var     True if the user has execute access.

    -z $var     True if the file is zero-length.

    parameters

    Command line arguments are in special shell variables 0, 1, 2 etc. $0 is the name of the script, $1 the first argument (if present), etc. All command line arguments $1, $2,.. are also pre-defined in an shell variable argv, which is actually a list (like an array). It can be referenced as $argv[1], $argv[2], ... etc. This form has the advantage that the construct $#argv (the same as $*) can be used to find the number of elements in the list

    $$ is a way of referring to the process number of the current shell. The
    characters $$ are often used as part of a filename in order to generate a
    unique name for a temporary file.

    Looping in a shell script

    The C-shell includes the following
    constructs: if, switch, foreach, while and goto.

    regular expression is supported, e.g. foreach varname (List*)

    repeat 100 DoSth

    foreach VariableName (SomeList)
        command1
        command2

        if (something1) break

        if (something2) continue
            ...
        commandn

    end

    done:

    switch ($year)
    case 92:
        set lyf = 1
        set soyf = 1
        breaksw
    case 93*:
        set lyf = 0
        set soyf = 3
        breaksw
    endsw

    while ( expr )
        statement_list
    end

    a list is words separated with comma,i.e. ","

    Labels are defined by a name, followed by a colon, label: jumping to a label is be done by using goto label.

    Decision making: using the if command

    simple format: if (expression) command

    if ( ! -d mydir &&  $a== `USER`) then
        commands
    else if ( expression ) then
        commands
    else
        commands
    endif

    else if can be replace with elif

    return value

    In terms of any programming language one has the boolean operators, true and false.

    In the shell, being "true" is represented by a 0 (zero) and anything else is
    false. use $? to get the return value. say: echo $?

    Aliases 

    Aliases provide a way of conveniently recalling frequently used commands with a user-defined shorthand name. The alias statement associates a list of words with an alias name. The "=" is optional. Parentheses are used around the wordlist if it contains special characters such as i/o redirection operators that should be part of the alias definition. 

    alias name [ = ] ( wordlist )
    alias name [ = ] wordlist 

    alias name prints the definition of that alias; alias pattern prints the definitions of all the aliases whose names match the pattern. alias without any arguments prints the definitions of all the aliases. 

    alias
    alias name
    alias pattern 

    unalias namelist discards the specified aliases; unalias pattern discards all the aliases whose names match the pattern. 

    unalias namelist
    unalias pattern

    Procedures 

    this may be of problem
    Procedures defined by the proc statement can recursively call other procedures. They can be referred to inside an expression or as a new command, in which case any value returned is written to stdout. There is an implicit return statement at the end of every procedure definition. 

    proc name ( [ namelist ] )
        statement_list
    return [ expr ]
    end 

    The proc statement with no arguments prints a list of all the procedures that have been defined; if the argument is a name, that one procedure is listed; if the argument is a pattern, all procedures whose names match the pattern are listed. 

    proc
    proc name
    proc pattern 

    unproc namelist (where namelist is a series of names separated by commas) discards the specified procedures. unproc pattern discards all procedures whose names match the pattern are discarded. 

    unproc namelist
    unproc pattern



    sed usage:

    Usage: sed [OPTION]... {script-only-if-no-other-script} [input-file]
    -n, --quiet, --silent
        suppress automatic printing of pattern space
    -e script, --expression=script
        add the script to the commands to be executed
    -f script-file, --file=script-file
        add the contents of script-file to the commands to be executed
    -i[SUFFIX], --in-place[=SUFFIX]
        edit files in place (makes backup if extension supplied)
    -c, --copy
        use copy instead of rename when shuffling files in -i mode
        (avoids change of input file ownership)
    -l N, --line-length=N
        specify the desired line-wrap length for the `l' command
    --posix
        disable all GNU extensions.
    -r, --regexp-extended
        use extended regular expressions in the script.
    -s, --separate
        consider files as separate rather than as a single continuouslong stream.
    -u, --unbuffered
        load minimal amounts of data from the input files and flush the output buffers more often
    --help display this help and exit
    --version output version information and exit

    To delete trailing whitespace from end of each line, enter:
        $ cat input.txt | sed 's/[ \t]*$//;s/abc/def/' > output.txt
    to delete all empty lines from a file called /tmp/data.txt, enter:
        $ sed '/^$/d' /tmp/data.txt
    GNU Sed support -i option to edit files in place:
        $ sed -i '/Windows/d' /tmp/data.txt

    Tuesday, October 7, 2008

    视频接口及其它

    from zh.wikipedia.org
    color space
    YUV, YCbCr,是一種顏色編碼方法。
    YUV是編譯true-color顏色空間(color space)的種類。「Y」表示明亮度(Luminance、Luma),「U」和「V」則是色度、濃度(Chrominance、Chroma)。
    The scope of the terms Y'UV, YUV, YCbCr, YPbPr, etc., is sometimes ambiguous and overlapping. Historically, the terms YUV and Y'UV was used for a specific analog encoding of color information in television systems, while YCbCr was used for digital encoding of color information suited for video and still-image compression and transmission such as MPEG and JPEG. Today, the term YUV is commonly used in the computer industry to describe file-formats that are encoded using YCbCr.

    电视制式
    PAL制式
    PAL制式是电视广播中色彩编码的一种方法。全名为 Phase Alternating Line 逐行倒相。除了北美,东亚部分地区使用 NTSC制式 ,中东、法国及东欧采用 SECAM制式 以外,世界上大部份地区都是采用 PAL。PAL 由德国人 Walter Bruch 在1967年提出,当时他是为德律风根(Telefunken)工作。“PAL”有时亦被用来指625 线,每秒25格,隔行扫瞄,PAL色彩编码的电视制式。

    PAL 发明的原意是要在兼容原有黑白电视广播格式的情况下加入彩色讯号。PAL 的原理与 NTSC 接近。“逐行倒相”的意思是每行扫瞄线的彩色讯号,会跟上一行倒相。作用是自动改正在传播中可能出现的错相。早期的 PAL 电视机没有特别的组件改正错相,有时严重的错相仍然会被肉眼明显看到。近年的电视会把上行的色彩讯号跟下一行的平均起来才显示。这样 PAL 的垂直色彩解像度会低于NTSC 。但由于人眼对色彩的灵敏不及对光暗,因此这并不是明显问题。

    PAL 本身是指色彩系統,經常被配以 625線,每秒25格畫面,隔行掃瞄的電視廣播格式

    NTSC制式
    NTSC制式,又简称为N制,是1952年12月由美国国家电视标准委员会(National Television System Committee,缩写为NTSC)制定的彩色电视广播标准,两大主要分支是NTSC-J与NTSC-US(又名NTSC-U/C)。

    它属于同时制,帧频为每秒29.97fps,扫描线为525,逐行扫描,画面比例为4:3,分辨率为720x480

    分辨率
    480p 是一种视频显示格式。字母p表示逐行扫描 (progressive scan),数字 480 表示其垂直解析度,也就是垂直方向有480条水平线的扫描线;而每条水平线分辨率有640个像素,纵横比(aspect ratio)为4:3,即通常所说的标准电视格式(standard-definition television,SDTV)。帧频通常为30赫兹或者60赫兹。


    通常1080p的画面解析度为1920×1080,即一般所说的高解析度电视(HDTV)。

    通常720p的画面解像度为1280×720,一般亦可称为HD。


    显示接口
    VGA端子(其他的名称包括RGB端子,D-sub 15,或mini D15),是一种3排共15针的DE-15。VGA端子通常在电脑的显示卡、显示器及其他设备。是用作传送类比讯号

    AV端子(又称复合端子)原文为Composite video connector,是家用影音电器用来传送类比视讯如NTSC、PAL、SECAM)的常见端子。AV端子通常是黄色的RCA端子,另外配合两条红色与白色的RCA端子传送音讯。欧洲的电视机通常以SCART端子取代RCA端子,不过SCART的设计上可以载送画质比YUV更好的RGB讯号,故也被用来连接显示器、电视游乐器或DVD播放机。在专业应用当中,也有使用BNC端子以求获得更佳讯号品质。

    在AV端子中传送的是类比电视讯号的三个来源要素:Y、U、V,以及作为同步化基准的脉冲信号。Y代表影像的亮度(luminance,又称brightness),并且包含了同步脉冲,只要有Y信号存在就可以看到黑白的电视影像(事实上,这是彩色电视与早期黑白电视相容的方法)。U信号与V信号之间承载了颜色的资料,U和V先被混合成一个信号中的两组正交相位(此混合后的信号称为彩度(chrominance)),再与Y信号作加总。因为Y是基频信号而UV是与载波混合在一起,所以这个加总的动作等同于分频多工。


    S-端子,或称“独立视讯端子” ,而当中的S是“Separate”的简称。也称为Y/C (或被错误的称为S-VHS和“超级端子”) 。它是一种将视频数据分成两个单独的讯号(光亮度和色度)进行传送的模拟视频讯号,不像合成视频讯号(composite video)是将所有讯号打包成一个整体进行传送。

    S-端子能在480i或576i的解析度下工作。

    在S-端子中,光亮度(Y; greyscale)的讯号和调制色度(C; colour)的讯号也是由独立的电线或电线组所传送。

    在合成视频中,光亮度的讯号是被低通滤波器变成低通滤波,以防以因线路而干扰,因高频率的光亮度资讯及色度讯号的一部分是重叠的。而S-端子把两种讯号分开,这种就不用把光亮度的讯号再转成低通滤波。这样可以给予光亮度的讯号有更大的频宽,也解决了讯号重叠的问题。因此,受干扰的点阵讯号事被排除
    但是,影像讯号被分离为亮度与色度两部分,因此S-端子有时也被视为是一种合成影像讯号,但就品质上而言,S-Video是component讯号中最差的一种,远不如其他更为复杂的component影像讯号(如RGB),但较之另外一种模拟信号 CVBS 锐利

    目前S-Video的讯号一般采用4 接脚(pin)的mini-DIN连接端子,终端阻抗须为75欧姆

    色差端子(Component Video Connector,简体中文译为分量接口)是把类比视频中的明度、彩度、同步脉冲分解开来各自传送的端子
    分量传送的视频有许多种方式,例如将三原色直接传送的RGB方式,以及从RGB转换为明度(Y)与色差(Cb/Cr或Pb/Pr)的方式。RGB方式将所有的颜色信息作同等的处理,虽然有最高的画质,但由于RGB方式对传输带宽和储存空间的消耗太大,为节省带宽,使用色差方式来传送与记录分量视频是现在的主流。

    色差在设计上利用了“人眼对明度较敏感,而对色度较不敏感”的特性,将视讯中的色彩信息加以削减,转换公式如下:
    明度: Y=0.299*R + 0.587*G + 0.114*B
    色差: Cb=0.564*(B-Y) = -0.169*R - 0.331*G + 0.500*B
       Cr=0.713*(R-Y) = 0.500*R - 0.419*G - 0.081*B


    所谓的“色差”即为颜色值与明度之间的差值。转换过后的颜色信息量被删减了约一半,但由于人眼的特性,使得色差处理过后的影像与原始影像的差异很难被察觉。最终的色差数据与RGB数据相比节省了1/3的带宽


    DVI的英文全名为Digital Visual Interface,中文称为“数位视讯介面”。是一种视讯介面标准,设计的目标是透过数位化的传送来强化个人电脑显示器的画面品质。目前广泛应用于LCD,数位投影机等显示设备上。此标准由显示业界数家领导厂商所组成的论坛:“数位显示工作小组”(Digital Display Working Group,DDWG)制订。DVI介面可以传送未压缩的数位视频资料到显示装置。本规格部分相容于HDMI标准。

    HDMI(英语:High Definition Multimedia Interface),即高清晰度多媒体介面,是一种全数位化影像/声音传送介面,可以传送无压缩的音频信号及视频信号。HDMI提供所有相容装置——如机上盒、DVD播放机、个人电脑、电视游乐器、综合扩大机、数位音响与电视机——一个共通的资料连接管道。HDMI可以同时传送音频和影音信号,由于音频和视频信号采用同一条电缆,大大简化了系统的安装。
    HDMI支援各类电视与电脑影像格式,包括SDTV、HDTV视频画面,再加上多声道数位音频。在传送时,各种视频资料将被HDMI收发晶片以“Transition Minimized Differential Signaling”(TMDS)技术编码成资料封包。规格初制订时其最大画素传输率为165Mpx/sec,足以支援1080p画质每秒60张画面,或者UXGA解像度(1600x1200);后来在HDMI 1.3规格中扩增为340Mpx/sec,以符合未来可能的需求。

    HDMI也支援非压缩的8声道数位音频传送(取样率192kHz,资料长度24bits/sample),以及任何压缩音频串流如Dolby Digital或DTS,亦支援SACD所使用的8声道的1bit DSD信号。在HDMI 1.3规格中,又追加了超高资料量的非压缩音频串流如Dolby TrueHD与DTS-HD的支援


    DisplayPort 是Video Electronics Standards Association(VESA)推动的数位式视讯介面标准,订定于2006年5月,目前1.1版本订定于2007年4月2日。该介面订定免认证、免授权金,发展中的新型数位式音讯/视讯界面,有意要取代旧有电脑萤幕,或是电脑的家庭剧院界面。
    技术规格
    10.8 Gbit/s 的频宽,只需单条传输线即可支援 2560×1600 的高解析度显示器。
    8B/10B 资料传输

    streaming
    ITU656
    ITU-R Recommendation BT.656, sometimes also called ITU656, describes a simple digital video protocol for streaming uncompressed PAL or NTSC Standard Definition TV (525 or 625 lines) signals. The protocol builds upon the 4:2:2 digital video encoding parameters defined in ITU-R Recommendation BT.601, which provides interlaced video data, streaming each field separately, and uses the YCbCr color space and a 13.5 MHz sampling frequency for pixels.
    The standard can be implemented to transmit either 8-bit values (the standard in consumer electronics) or 10-bit values (sometimes used in studio environments). Both a parallel and a serial transmission format are defined. For the parallel format, a 25-pin Sub-D connector pinout and ECL logic levels are defined. The serial format can be transmitted over 75-ohm coaxial cable with BNC connectors, but there is also a fibre-optical version defined.
    The parallel version of the ITU-R BT.656 protocol is also used in many TV sets between chips using CMOS logic levels. Typical applications include the interface between a PAL/NTSC decoder chip and a DAC integrated circuit for driving a CRT in a TV set.
    Data format
    A BT.656 data stream is a sequence of 8-bit or 10-bit bytes, transmitted at a rate of 27 Mbyte/s. Horizontal scan lines of video pixel data are delimited in the stream by 4-byte long SAV (Start of Active Video) and EAV (End of Active Video) code sequences. SAV codes also contain status bits indicating line position in a video field or frame. Line position in a full frame can be determined by tracking SAV status bits, allowing receivers to 'synchronize' with an incoming stream.
    Individual pixels in a line are coded in YCbCr format. After an SAV code (4 bytes) is sent, the first 8 bits of Cb (chroma U) data are sent then 8 bits of Y (luma), followed by 8 bits of Cr (chroma V) for the next pixel and then 8 bits of Y. To reconstruct full resolution Y,Cb, Cr pixel values, chroma upsampling must be used.

    ITU601
    ITU-R Recommendation BT.601, more commonly know by the abbreviations Rec. 601 or BT.601 or its former name, CCIR 601, is a standard published by the CCIR (now ITU-R) for encoding interlaced analogue video signals in digital form. It includes methods of encoding 525 line 60 Hz and 625-line 50 Hz signals, both with 720 luminance samples and 360 chrominance samples per line. The colour encoding system is known as YUV 4:2:2, that being the ratio of Y:Cb:Cr samples (luminance data:blue chroma data:red chroma data). For a pair of pixels, the data are stored in the order Y1:Y2:Cb:Cr, with the chrominance samples co-sited with the first luminance sample.
    The CCIR 601 signal can be regarded as if it is a digitally encoded analog component video signal, and thus includes data for the horizontal and vertical sync and blanking intervals. Regardless of the frame rate, the luminance sampling frequency is 13.5 MHz. The luminance sample is at least 8 bits, and the chrominance samples are at least 4 bits each.