忆风居

忆风的地盘,一些日常的记忆,技术文摘,以及收集的一些文章。
  • 首页
  • 登入
  • 标签
  • 留言
  • 边栏
  • 链接
  • 归档
  • 星标日志
欢迎光临忆风的博客
分页: 1/36 第一页 1 2 3 4 5 6 7 8 9 10 下页 最后页 [ 显示模式: 摘要 | 列表 ]

MYSQL的优化[转]

2010/08/05 0 Comments
1.数据库的设计
尽量把数据库设计的更小的占磁盘空间.
1).尽可能使用更小的整数类型.(mediumint就比int更合适).
2).尽可能的定义字段为not null,除非这个字段需要null.(这个规则只适合字段为KEY的情形)
3).如果没有用到变长字段的话比如varchar,那就采用固定大小的纪录格式比如char.(CHAR 总是比VARCHR快)
4).表的主索引应该尽可能的短.这样的话每条纪录都有名字标志且更高效.
5).只创建确实需要的索引。索引有利于检索记录,但是不利于快速保存记录。如果总是要在表的组合字段上做搜索,那么就在这些字段上创建索引。索引的第一部分必须是最常使用的字段.如果总是需要用到很多字段,首先就应该多复制这些字段,使索引更好的压缩。
(这条只适合MYISAM引擎的表,对于INNODB则在保存记录的时候关系不大,因为INNODB是以事务为基础的,如果想快速保存记录的话,特别是大批量的导入记录的时候)
6).所有数据都得在保存到数据库前进行处理。
7).所有字段都得有默认值。
8).在某些情况下,把一个频繁扫描的表分成两个速度会快好多。在对动态格式表扫描以取得相关记录时,它可能使用更小的静态格式表的情况下更是如此。
(具体的表现为:MYISAM表的MERGE类型,以及MYISAM和INNODB通用的分区,详情见手册)
9).不会用到外键约束的地方尽量不要使用外键。
2.系统的用途
1).及时的关闭对MYSQL的连接。
2).explain 复杂的SQL语句。(这样能确定你的SELECT 语句怎么优化最佳)
3).如果两个关联表要做比较话,做比较的字段必须类型和长度都一致.(在数据庞大的时候建立INDEX)
4).LIMIT语句尽量要跟order by或者 distinct.这样可以避免做一次full table scan.
5).如果想要清空表的所有纪录,建议用truncate table tablename而不是delete from tablename.
不过有一个问题,truncate 不会在事务处理中回滚。因为她要调用create table 语句。
(Truncate Table 语句先删除表然后再重建,这个是属于文件级别的,所以自然快N多)
实测例子:
song2为INNODB表。
mysql> select count(1) from song2;
+----------+
| count(1) |
+----------+
|   500000 |
+----------+
1 row in set (0.91 sec)

mysql> delete from song2;
Query OK, 500000 rows affected (15.70 sec)
mysql> truncate table song2;
Query OK, 502238 rows affected (0.17 sec)

6).能使用STORE PROCEDURE 或者 USER FUNCTION的时候.(ROUTINE总是减少了服务器端的开销)
7).在一条insert语句中采用多重纪录插入格式.而且使用load data infile来导入大量数据,这比单纯的indert快好多.(在MYSQL中具体表现为:INSERT INTO TABLEQ VALUES (),(),...();)
(还有就是在MYISAM表中插入大量记录的时候先禁用到KEYS后面再建立KEYS,具体表现语句:
 ALTER TABLE TABLE1 DISABLE KEYS;ALTER TABLE TABLE1 ENABLE KEYS;
而对于INNNODB 表在插入前先 set autocommit=0;完了后:set autocommit=1;这样效率比较高。)
8).经常OPTIMIZE TABLE 来整理碎片.
9).还有就是date 类型的数据如果频繁要做比较的话尽量保存在unsigned int 类型比较快。
3.系统的瓶颈
1).磁盘搜索.
并行搜索,把数据分开存放到多个磁盘中,这样能加快搜索时间.
2).磁盘读写(IO)
可以从多个媒介中并行的读取数据。
3).CPU周期
数据存放在主内存中.这样就得增加CPU的个数来处理这些数据。
4).内存带宽
当CPU要将更多的数据存放到CPU的缓存中来的话,内存的带宽就成了瓶颈.
Mysql
引用地址:
注意: 该地址仅在今日23:59:59之前有效

PHP代码审计工具

2010/07/27 1 Comments
PHP代码审计工具

PHP_Depend
PHPCheckStyle
PHPSat
PHPMD
PHP_CodeSniffer

可以检查很多方面,比如说大括号风格,缩进风格,甚至还可以检查方法参数数量等等。实际使用时,可以搭配SVN钩子脚本,这样不符合要求的代码不允许提交,从而改善项目质量。

补充:我大概试用了一遍,如果是处于检测编码标准的目的的话,那么只有PHPCheckStyle,PHP_CodeSniffer比较合适,剩下的几个 基本是用于检测代码安全性,复杂度的,至于PHPCheckStyle,PHP_CodeSniffer的选择,PHPCheckStyle项目较新,配 置方便,但是不太稳定,比如说你的代码里有闭包的话,那么在检测大括号相应配置的时候很可能会误报,类似的问题还好几个,至于 PHP_CodeSniffer,项目时间较长,相对稳定,但是配置不够灵活。

Shell中的数组

声明数组的语法很简单,就是用小括号括起来:

$ foo=(a b)

访问数组元素的方法很也简单,唯一需要注意的就是大括号的使用:

$ echo ${foo[0]}
a
$ echo ${foo[1]}
b

如果想获得数组的长度,有如下两种方法:

$ echo ${#foo[*]}
2
$ echo ${#foo[@]}
2

Javascript CDN

Jquery是很多网站居家必备的Javascript类库,如果大家都使用CDN的话,无疑是非常低碳的!

jQuery CDN
Google Ajax API CDN
Microsoft CDN

用jQuery UI的话,则只有Google Ajax API CDN可用,还提供了theme的CDN,但是Google的服务有被墙的危险,所以Microsoft CDN也是必要的。
Web 开发
引用地址:
注意: 该地址仅在今日23:59:59之前有效

Mrtg系统状态监控[CPU 内存 网卡流量 系统进程 硬盘空间 TCP连接数

2010/07/20 1 Comments
----------------------------
1) 安装所需rpm包
----------------------------
net-snmp-perl-5.1.2-11.EL4.6.x86_64.rpm
net-snmp-libs-5.1.2-11.EL4.6.x86_64.rpm
net-snmp-utils-5.1.2-11.EL4.6.x86_64.rpm
net-snmp-devel-5.1.2-11.EL4.6.x86_64.rpm
   !!需要预先安装以下rpm包
   beecrypt-devel-3.1.0-6.x86_64.rpm
   elfutils-devel-0.97-5.x86_64.rpm(在第5张安装光盘上)
net-snmp-5.1.2-11.EL4.6.x86_64.rpm
net-snmp-utils-5.1.2-11.EL4.6.x86_64.rpm
安装mrtg-2.10.15-1.x86_64.rpm
  
  
----------------------------
2) 修改/etc/snmp/snmpd.conf
----------------------------
找到这行:
# Make at least  snmpwalk -v 1 localhost -c public system fast again
#       name           incl/excl     subtree         mask(optional)
view    systemview    included   .1.3.6.1.2.1.1
view    systemview    included   .1.3.6.1.2.1.25.1.1
在view几行的下面,加上这段文字:
# For Mrtg Add start ####################################
view    all           included   .1.3.6
# For Mrtg Add end   ####################################
找到这行:
####
# Finally, grant the group read-only access to the systemview view.
#       group          context sec.model sec.level prefix read    write  notif
access  notConfigGroup ""      any       noauth    exact  mib2   none    none
把 access  notConfigGroup 里的mib2(也可能是systemview) 更改为all
如果需要监控硬盘容量使用状况,还需要进行以下操作:
用 df -a 看到你要监控的硬盘分卷方式以及容量大小(-am:以M为单位; -ak:以K为单位 -ag:以G为单位)
比如:
#df -am
Filesystem            容量  已用 可用 已用% 挂载点
/dev/sda2                 9845      5695      3650  61% /
/dev/sda6                45168     24761     18113  58% /Datas
然后修改/etc/snmp/snmpd.conf,在刚才修改的view行最下面加入:
disk / 9845
disk /Datas 45168
然后重启snmp服务
# service snmpd restart
----------------------------
3) 修改mrtg配置文件 mrtg.cfg
----------------------------
使用Redhat AS4u2 自带的 安装 mrtg-2.10.15-1.x86_64.rpm
安装以后的配置文件是/etc/mrtg/mrtg.cfg
我们预设要监控的服务器以下参数:
连接公网网卡的流量;
主机连续运行时间;
系统负载;
CPU负载;
内存使用量;
系统进程数;
硬盘空间;
打开的TCP连接数。
我的mrtg.cfg配置如下:
# Camor's Minimal mrtg.cfg
#--------------------
EnableIPv6: no
WorkDir: /var/www/mrtg
Language: gb2312
HtmlDir: /var/www/mrtg
ImageDir: /var/www/mrtg
LogDir: /var/log/mrtg
ThreshDir: /var/lib/mrtg
LoadMIBs:/usr/share/snmp/mibs/UCD-SNMP-MIB.txt,/usr/share/snmp/mibs/HOST-RESOURCES-MIB.txt,/usr/share/snmp/mibs/TCP-MIB.txt
#================================================================================
#监控eth1网卡(连接公网的)
#================================================================================
Target[eth1_lan]: /192.168.1.68:public@localhost:
Options[eth1_lan]: growright
Directory[eth1_lan]: eth1
MaxBytes[eth1_lan]: 100000000
Kmg[eth1_lan]: ,k,M,G,T,P
YLegend[eth1_lan]: Bytes per Second
ShortLegend[eth1_lan]: B/s
Legend1[eth1_lan]: 每秒流入量 (单位 Bytes)
Legend2[eth1_lan]: 每秒流出量 (单位 Bytes)
LegendI[eth1_lan]: 流入:
LegendO[eth1_lan]: 流出:
Title[eth1_lan]: eth1网络流量[流入+流出]
PageTop[eth1_lan]: eth1网络流量[流入+流出]
  
  系统 :System02
  描述 :LAN网络接口eth1的网络流量(Bytes/s)
  位置 : 办公服务器68
  最大值:100 MBytes/s
  管理员:user@123.com
  说明 :eth1 ip=192.168.1.68
  
#================================================================================
#监控主机连续运行时间[运行天数]
#================================================================================
Target[upday]: `/etc/mrtg/bin/mrtg-updays.pl`
Options[upday]: gauge,nopercent,growright
Directory[upday]: upday
MaxBytes[upday]: 1000
YLegend[upday]: Up Days
ShortLegend[upday]: 天
Legend1[upday]: 主机连续运行时间(天)
Legend2[upday]:
LegendI[upday]: 运行时间:
LegendO[upday]:
Title[upday]: 主机连续运行时间[运行天数]
PageTop[upday]: 主机连续运行时间[运行天数]
  
  系统:system02
  描述:主机连续运行的时间(天)
  位置:办公服务器68
  最大值:1000天
  管理员:user@123.com
  
#================================================================================
#监控系统负载[1分钟+15分钟]
#================================================================================
Target[systemload]:  .1.3.6.1.4.1.2021.10.1.5.1&.1.3.6.1.4.1.2021.10.1.5.3:public@localhost:
Options[systemload]: gauge,nopercent,growright
Directory[systemload]: load
MaxBytes[systemload]: 3000
YLegend[systemload]: System Load
ShortLegend[systemload]:
Legend1[systemload]: 最近1分钟系统负载(x100)
Legend2[systemload]: 最近15分钟系统负载(x100)
LegendI[systemload]: 1分钟负载:
LegendO[systemload]: 15分钟负载:
Title[systemload]: 系统负载(x100)[1分钟+15分钟]
PageTop[systemload]: 系统负载(x100)[1分钟+15分钟]
  
  系统:system02
  描述:系统负载(x100)[1分钟+15分钟]
  位置:办公服务器68
  最大值:30(x100)
  管理员:user@123.com
  
#================================================================================
#监控CPU负载[用户+闲置]
#================================================================================
Target[cpuload]:  .1.3.6.1.4.1.2021.11.50.0&1.3.6.1.4.1.2021.11.53.0:public@localhost:
Options[cpuload]: nopercent,growright
Directory[cpuload]: cpu
MaxBytes[cpuload]: 100
Unscaled[cpuload]: dwym
YLegend[cpuload]: CPU Utilization
ShortLegend[cpuload]: %;
Legend1[cpuload]: CPU用户负载(%)
Legend2[cpuload]: CPU闲置(%)
LegendI[cpuload]: 用户:
LegendO[cpuload]: 闲置:
Title[cpuload]: CPU负载[用户+闲置]
PageTop[cpuload]: CPU负载[用户+闲置]
  
  系统:system02
  描述:CPU负载[用户+闲置]
  位置:办公服务器68
  最大值:100
  管理员:user@123.com
  
#================================================================================
#监控内存使用量[Mem+Swap]
#================================================================================
Target[memory]:  .1.3.6.1.2.1.25.2.3.1.6.2&.1.3.6.1.2.1.25.2.3.1.6.3:public@localhost:
Options[memory]: gauge,growright
Directory[memory]: mem
MaxBytes1[memory]: 4045336
MaxBytes2[memory]: 2097152
Kmg[memory]: k,M,G,T,P
Kilo[memory]: 1024
Unscaled[memory]: dwym
YLegend[memory]: Bytes
ShortLegend[memory]: B
Legend1[memory]: 已用Mem (Bytes)
Legend2[memory]: 已用Swap(Bytes)
LegendI[memory]: 已用Mem :
LegendO[memory]: 已用Swap:
Title[memory]: 内存使用量[Mem+Swap]
PageTop[memory]: 内存使用量[Mem+Swap]
  
  系统:system02
  描述:Memory和Swap的使用量(Bytes)
  位置:办公服务器68
  最大值:Mem=4096M,Swap=2048M
  管理员:user@123.com
  
#================================================================================
#监控系统进程数[进程数]
#================================================================================
Target[process]:  .1.3.6.1.2.1.25.1.6.0&.1.3.6.1.2.1.25.1.6.0:public@localhost:
Options[process]: gauge,nopercent,growright
Directory[process]: process
MaxBytes[process]: 1000
YLegend[process]: Processes
ShortLegend[process]: 个
Legend1[process]: 系统进程数(个)
Legend2[process]:
LegendI[process]: 进程数:
LegendO[process]:
Title[process]: 系统进程数[进程数]
PageTop[process]: 系统进程数[进程数]
  
  系统:system02
  描述:系统进程数(个)
  位置:办公服务器68
  最大值:1000个
  管理员:user@123.com
  
#==================================================================================
#监控硬盘空间[系统盘+数据盘]  !!参照前面的2) 这里需要与修改后snmpd.conf 的硬盘参数一致
#==================================================================================
Target[disk]:  .1.3.6.1.4.1.2021.9.1.8.1&.1.3.6.1.4.1.2021.9.1.8.2:public@localhost:
Options[disk]: gauge,growright
Directory[disk]: disk
MaxBytes1[disk]: 10080520
MaxBytes2[disk]: 46251780
Kmg[disk]: k,M,G,T,P
Kilo[disk]: 1024
Unscaled[disk]: dwym
YLegend[disk]: Bytes
ShortLegend[disk]: B
Legend1[disk]: 系统盘已用空间
Legend2[disk]: 数据盘已用空间
LegendI[disk]: 系统已用:
LegendO[disk]: 数据已用:
Title[disk]: 硬盘空间[系统盘+数据盘]
PageTop[disk]: 硬盘空间[系统盘+数据盘]
  
  系统:system02
  描述:系统盘=/(/dev/sda2); 数据盘=/Datas(/dev/sda6)
  位置:办公服务器68
  最大值:系统盘=10.0GB; 数据盘=45.0GB
  管理员:user@123.com
  
#================================================================================
#监控打开的TCP连接数[TCP连接数]
#================================================================================
Target[tcpopen]:  .1.3.6.1.2.1.6.9.0&.1.3.6.1.2.1.6.9.0:public@localhost:
Options[tcpopen]: gauge,nopercent,growright
Directory[tcpopen]: tcpopen
MaxBytes[tcpopen]: 1000
YLegend[tcpopen]: Tcp Connections
ShortLegend[tcpopen]: 个
Legend1[tcpopen]: 打开的TCP连接数(个)
Legend2[tcpopen]:
LegendI[tcpopen]: TCP连接数:
LegendO[tcpopen]:
Title[tcpopen]: TCP连接数[TCP连接数]
PageTop[tcpopen]: TCP连接数[TCP连接数]
  
  系统:system02
  描述:打开的TCP连接数(个)
  位置:办公服务器68
  最大值:1000个
  管理员:user@123.com
  
###################### All Set Over #########################
注意
在上面监控主机连续运行时间的配置中,有提到要使用/etc/mrtg/bin/mrtg-updays.pl这个文件。需要手动创建,内容如下:
#!/usr/bin/perl
$machine = `/bin/hostname`;
$uptime1 = `/usr/bin/uptime`;
$uptime2 = $uptime1;
$uptime1 =~ /up (.*?) day/;
$upday = int($1);
$uptime2 =~ /up (.*?) load/;
$uptime = $1;
print "$upday\n";
print "$upday\n";
print "$uptime\n";
print $machine."\n";
保存以后修改权限为可执行:
#chmod +x /etc/mrtg/bin/mrtg-updays.pl
注意
关于硬盘参数,一定要注意
snmp.conf与mrtg.cfg中的格式、参数一定要一致,并且完全跟df -a*的命令结果相符。否则会得到输入错误的提示信息。
  
----------------------------
4) 生成工作目录及相关文件
----------------------------
mrtg /etc/mrtg/mrtg.cfg
  
----------------------------
5) 生成监控的页面文件
----------------------------
indexmaker --output /var/www/mrtg/index.html --title="System state  Monitor" /etc/mrtg/mrtg.cfg
Linux 平台 mrtg , cpu
引用地址:
注意: 该地址仅在今日23:59:59之前有效

Awk学习笔记

2010/07/06 0 Comments

Awk学习笔记

整理:Jims of 肥肥世家

<jims.yang@gmail.com>

Copyright © 2004 本文遵从GPL协议,欢迎转载、修改、散布。

第一次发布时间:2004年8月6日


Table of Contents

1.  awk简介
2.  awk命令格式和选项
2.1.  awk的语法有两种形式
2.2.  命令选项
3.  模式和操作
3.1.  模式
3.2.  操作
4.  awk的环境变量
5.  awk运算符
6.  记录和域
6.1.  记录
6.2.  域
6.3.  域分隔符
7.  gawk专用正则表达式元字符
8.  POSIX字符集
9.  匹配操作符(~)
10.  比较表达式
11.  范围模板
12.  一个验证passwd文件有效性的例子
13.  几个实例
14.  awk编程
14.1.  变量
14.2.  BEGIN模块
14.3.  END模块
14.4.  重定向和管道
14.5.  条件语句
14.6.  循环
14.7.  数组
14.8.  awk的内建函数
15.  How-to

1. awk简介

awk是一种 编程语言,用于在linux/unix下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件,或其它命令的输出。它支持用户自定义函数和动态正 则表达式等先进功能,是linux/unix下的一个强大编程工具。它在命令行中使用,但更多是作为脚本来使用。awk的处理文本和数据的方式是这样的, 它逐行扫描文件,从第一行到最后一行,寻找匹配的特定模式的行,并在这些行上进行你想要的操作。如果没有指定处理动作,则把匹配的行显示到标准输出(屏 幕),如果没有指定模式,则所有被操作所指定的行都被处理。awk分别代表其作者姓氏的第一个字母。因为它的作者是三个人,分别是Alfred  Aho、Brian Kernighan、Peter  Weinberger。gawk是awk的GNU版本,它提供了Bell实验室和GNU的一些扩展。下面介绍的awk是以GUN的gawk为例的,在 linux系统中已把awk链接到gawk,所以下面全部以awk进行介绍。

2. awk命令格式和选项

2.1. awk的语法有两种形式

  • awk [options] 'script'  var=value file(s)

  • awk [options] -f scriptfile var=value  file(s)

2.2. 命 令选项

-F fs or --field-separator fs

指定输入文件折分隔 符,fs是一个字符串或者是一个正则表达式,如-F:。

-v var=value  or --asign var=value

赋值一个用户定义变量。

-f scripfile or --file scriptfile

从脚本文件中读 取awk命令。

-mf nnn and  -mr nnn

对 nnn值设置内在限制,-mf选项限制分配给nnn的最大块数目;-mr选项限制记录的最大数目。这两个功能是Bell实验室版awk的扩展功能,在标准 awk中不适用。

-W compact or --compat, -W traditional or --traditional

在兼容模式下运行 awk。所以gawk的行为和标准的awk完全一样,所有的awk扩展都被忽略。

-W  copyleft or --copyleft, -W copyright or  --copyright

打印简短的版权信息。

-W  help or --help, -W usage or --usage

打 印全部awk选项和每个选项的简短说明。

-W lint or --lint

打 印不能向传统unix平台移植的结构的警告。

-W lint-old or  --lint-old

打印关于不能向传统unix平台移植的结构的警告。

-W posix

打开兼容模式。但有以下限制,不识别:\x、函数关键字、func、 换码序列以及当fs是一个空格时,将新行作为一个域分隔符;操作符**和**=不能代替^和^=;fflush无效。

-W re-interval or --re-inerval

允许间隔正则表达式 的使用,参考(grep中的Posix字符类),如括号表达式[[:alpha:]]。

-W  source program-text or --source program-text

使用 program-text作为源代码,可与-f命令混用。

-W version   or --version

打印bug报告信息的版本。

3. 模式和操作

awk脚本是由模式和操作组成的:

pattern  {action} 如$ awk '/root/' test,或$ awk '$3 < 100' test。

   两者是可选的,如果没有模式,则action应用到全部记录,如果没有action,则输出匹配全部记录。默认情况下,每一个输入行都是一条记录,但用户 可通过RS变量指定不同的分隔符进行分隔。

3.1. 模式

模 式可以是以下任意一个:

  • /正则表达式/: 使用通配符的扩展集。

  • 关系表达式:可以用下面运算符表中的关系运算符进行操作,可以是字符串或数字的比较, 如$2>%1选择第二个字段比第一个字段长的行。

  • 模式匹配表达式:用运算符~(匹配)和~!(不匹配)。

  • 模 式,模式:指定一个行的范围。该语法不能包括BEGIN和END模式。

  • BEGIN:让用户指定在第一条输入记录被处理之 前所发生的动作,通常可在这里设置全局变量。

  • END:让用户在最后一条输入记录被读取之后发生的动作。

3.2. 操作

操 作由一人或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内。主要有四部份:

  • 变量或数组赋值

  • 输出命令

  • 内 置函数

  • 控制流命令

4. awk的环境变量

Table 1. awk的 环境变量

变 量描述
$n当前记录的第n个字段,字段间由 FS分隔。
$0完整的输入记录。
ARGC命 令行参数的数目。
ARGIND命令行中当前文件的位置(从0开始算)。
ARGV包 含命令行参数的数组。
CONVFMT数字转换格式(默认值为%.6g)
ENVIRON环 境变量关联数组。
ERRNO最后一个系统错误的描述。
FIELDWIDTHS字 段宽度列表(用空格键分隔)。
FILENAME当前文件名。
FNR同 NR,但相对于当前文件。
FS字段分隔符(默认是任何空格)。
IGNORECASE如 果为真,则进行忽略大小写的匹配。
NF当前记录中的字段数。
NR当 前记录数。
OFMT数字的输出格式(默认值是%.6g)。
OFS输 出字段分隔符(默认值是一个空格)。
ORS输出记录分隔符(默认值是一个换行符)。
RLENGTH由 match函数所匹配的字符串的长度。
RS记录分隔符(默认是一个换行符)。
RSTART由 match函数所匹配的字符串的第一个位置。
SUBSEP数组下标分隔符(默认值是\034)。

5. awk运算符

Table 2. 运算符

运 算符描述
=  +=  -=  *=  /=  %=  ^=   **=赋值
?:C条件表达式
||逻 辑或
&&逻辑与
~  ~!匹 配正则表达式和不匹配正则表达式
<  <=  >  >=  !=  ==关 系运算符
空格连接
+  -加,减
*   /  &乘,除与求余
+  -  !一元加,减和逻辑非
^   ***求幂
++  --增加或减少,作为前缀或后缀
$字 段引用
in数组成员

6. 记录和域

6.1. 记录

awk 把每一个以换行符结束的行称为一个记录。

记录分隔符:默认的输入和输出的分隔符都是回车,保存在内建变量ORS和RS中。

$0 变量:它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。

变量NR:一个计数器,每处 理完一条记录,NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录,并在记录前显示记录号。

6.2. 域

记 录中每个单词称做“域”,默认情况下以空格或tab分隔。awk可跟踪域的个数,并在内建变量NF中保存该值。如$ awk '{print  $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。

6.3. 域分隔符

内建变量 FS保存输入域分隔符的值,默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$ awk -F: '{print $1,$5}'  test将打印以冒号为分隔符的第一,第五列的内容。

可以同时使用多个域分隔符,这时应该把分隔符写成放到方括号中,如$awk  -F'[:\t]' '{print $1,$3}' test,表示以空格、冒号和tab作为分隔符。

输出域的分隔符默认是一个空格,保 存在OFS中。如$ awk -F: '{print $1,$5}' test,$1和$5间的逗号就是OFS的值。

7. gawk专用正则表达 式元字符

一般通用的元字符集就不讲了,可参考我的Sed和Grep学习笔记。以下几个是gawk专用的,不适合unix版本的awk。

\Y

匹配一 个单词开头或者末尾的空字符串。

\B

匹配单词 内的空字符串。

\<

匹配一个单词的开头 的空字符串,锚定开始。

\>

匹配一个单 词的末尾的空字符串,锚定末尾。

\w

匹配一个 字母数字组成的单词。

\W

匹配一个非字母数字 组成的单词。

\‘

匹配字符串开头的一个空字符 串。

\'

匹配字符串末尾的一个空字符串。

8. POSIX字符集

可 参考我的Grep学习笔记

9. 匹配操作符(~)

用来在 记录或者域内匹配正则表达式。如$ awk '$1 ~/^root/' test将显示test文件第一列中以root开头的行。

10. 比较表达式

conditional  expression1 ? expression2: expression3,例如:$ awk '{max = {$1 > $3} ?  $1: $3: print max}' test。如果第一个域大于第三个域,$1就赋值给max,否则$3就赋值给max。

$ awk  '$1 + $2 < 100' test。如果第一和第二个域相加大于100,则打印这些行。

$ awk '$1 > 5  && $2 < 10' test,如果第一个域大于5,并且第二个域小于10,则打印这些行。

11. 范围模板

范 围模板匹配从第一个模板的第一次出现到第二个模板的第一次出现之间所有行。如果有一个模板没出现,则匹配到开头或末尾。如$ awk  '/root/,/mysql/' test将显示root第一次出现到mysql第一次出现之间的所有行。

12. 一个验证 passwd文件有效性的例子

 

1$ cat /etc/passwd | awk -F: '\
2NF != 7{\
3printf("line %d,does not have 7 fields:%s\n",NR,$0)}\
4$1 !~ /[A-Za-z0-9]/{printf("line %d,non alpha and numeric user id:%d: %s\n,NR,$0)}\
5$2 == "*" {printf("line %d, no password: %s\n",NR,$0)}'

 

1

cat把结果输出给 awk,awk把域之间的分隔符设为冒号。

2

如果域的数量 (NF)不等于7,就执行下面的程序。

3

printf打印字 符串"line ?? does not have 7 fields",并显示该条记录。

4

如果第一个域没有包 含任何字母和数字,printf打印“no alpha and numeric user id" ,并显示记录数和记录。

5

如果第二个域是一个 星号,就打印字符串“no passwd”,紧跟着显示记录数和记录本身。

13. 几个实例

  • $ awk '/^(no|so)/'  test-----打印所有以模式no或so开头的行。

  • $ awk '/^[ns]/{print $1}'  test-----如果记录以n或s开头,就打印这个记录。

  • $ awk '$1  ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。

  • $  awk '$1 == 100 || $2 < 50' test-----如果第一个或等于100或者第二个域小于50,则打印该行。

  • $  awk '$1 != 10' test-----如果第一个域不等于10就打印该行。

  • $ awk  '/test/{print $1 + 10}' test-----如果记录包含正则表达式test,则第一个域加10并打印出来。

  • $  awk '{print ($1 > 5 ? "ok "$1: "error"$1)}'  test-----如果第一个域大于5则打印问号后面的表达式值,否则打印冒号后面的表达式值。

  • $ awk  '/^root/,/^mysql/'  test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记 录,则继续打印直到下一个以正则表达式mysql开头的记录为止,或到文件末尾。

14. awk编程

14.1. 变量

  • 在awk中,变量不需要定义就可以直接使用,变量类型可以 是数字或字符串。

  • 赋值格式:Variable = expression,如$ awk '$1  ~/test/{count = $2 + $3; print count}'  test,上式的作用是,awk先扫描第一个域,一旦test匹配,就把第二个域的值加上第三个域的值,并把结果赋值给变量count,最后打印出来。

  • awk 可以在命令行中给变量赋值,然后将这个变量传输给awk脚本。如$ awk -F: -f awkscript month=4 year=2004  test,上式的month和year都是自定义变量,分别被赋值为4和2004。在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。注意,如 果参数前面出现test,那么在BEGIN语句中的变量就不能被使用。

  • 域变量也可被赋值和修改,如$ awk '{$2  = 100 + $1; print }'  test,上式表示,如果第二个域不存在,awk将计算表达式100加$1的值,并将其赋值给$2,如果第二个域存在,则用表达式的值覆盖$2原来的值。 再例如:$ awk '$1 == "root"{$1 ="test";print}'  test,如果第一个域的值是“root”,则把它赋值为“test”,注意,字符串一定要用双引号。

  • 内建变量的使用。 变量列表在前面已列出,现在举个例子说明一下。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print  NR,$1,$2,$NF}'test,把IGNORECASE设为1代表忽略大小写,打印第一个域是mary的记录数、第一个域、第二个域和最后一个 域。

14.2. BEGIN 模块

BEGIN模块后紧跟着动作块,这个动作块在awk处理任何输入文件之 前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值,如OFS,RS和FS等,以及打印标题。如:$ awk  'BEGIN{FS=":"; OFS="\t"; ORS="\n\n"}{print $1,$2,$3}  test。上式表示,在处理输入文件以前,域分隔符(FS)被设为冒号,输出文件分隔符(OFS)被设置为制表符,输出记录分隔符(ORS)被设置为两个 换行符。$ awk 'BEGIN{print   "TITLE TEST"}只打印标题。

14.3. END模块

END 不匹配任何的输入文件,但是执行动作块中的所有动作,它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number  of records is" NR}' test,上式将打印所有被处理的记录数。

14.4. 重定向和管道

  • awk可使用shell的重定向符进行重定向输出,如:$  awk '$1 = 100 {print $1 > "output_file" }'  test。上式表示如果第一个域的值等于100,则把它输出到output_file中。也可以用>>来重定向输出,但不清空文件,只做追加 操作。

  • 输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件 获得输入。它负责从输入获得下一行的内容,并给NF,NR和FNR等内建变量赋值。如果得到一条记录,getline函数返回1,如果到达文件的末尾就返 回0,如果出现错误,例如打开文件失败,就返回-1。如:

    $ awk 'BEGIN{ "date" | getline d;  print d}' test。执行linux的date命令,并通过管道输出给getline,然后再把输出赋值给自定义变量d,并打印它。

    $  awk 'BEGIN{"date" | getline d; split(d,mon); print mon[2]}'  test。执行shell的date命令,并通过管道输出给getline,然后getline从管道中读取并将输入赋值给d,split函数把变量d转 化成数组mon,然后打印数组mon的第二个元素。

    $ awk 'BEGIN{while( "ls" | getline)  print}',命令ls的输出传递给geline作为输入,循环使getline从ls的输出中读取一行,并把它打印到屏幕。这里没有输入文件,因为 BEGIN块在打开输入文件前执行,所以可以忽略输入文件。

    $ awk 'BEGIN{printf "What is your  name?"; getline name < "/dev/tty" } $1 ~name {print "Found" name on  line ", NR "."} END{print "See you," name "."} test。在屏幕上打印”What is your  name?",并等待用户应答。当一行输入完毕后,getline函数从终端接收该行输入,并把它储存在自定义变量name中。如果第一个域匹配变量 name的值,print函数就被执行,END块打印See you和name的值。

    $ awk 'BEGIN{while  (getline < "/etc/passwd" > 0) lc++; print  lc}'。awk将逐行读取文件/etc/passwd的内容,在到达文件末尾前,计数器lc一直增加,当到末尾时,打印lc的值。注意,如果文件不存 在,getline返回-1,如果到达文件的末尾就返回0,如果读到一行,就返回1,所以命令 while (getline <  "/etc/passwd")在文件不存在的情况下将陷入无限循环,因为返回-1表示逻辑真。

  • 可以在awk中打开一个管 道,且同一时刻只能有一个管道存在。通过close()可关闭管道。如:$ awk '{print $1, $2 | "sort" }' test  END {close("sort")}。awd把print语句的输出通过管道作为linux命令sort的输入,END块执行关闭管道操作。

  • system 函数可以在awk中执行linux的命令。如:$ awk 'BEGIN{system("clear")'。

  • fflush 函数用以刷新输出缓冲区,如果没有参数,就刷新标准输出的缓冲区,如果以空字符串为参数,如fflush(""),则刷新所有文件和管道的输出缓冲区。

14.5. 条件语句

awk 中的条件语句是从C语言中借鉴过来的,可控制程序的流程。

14.5.1. if 语句

格式:
        {if (expression){
                   statement; statement; ...
                     }
        }

$ awk '{if ($1 <$2) print $2 "too high"}'  test。如果第一个域小于第二个域则打印。

$ awk '{if ($1 < $2) {count++; print  "ok"}}' test.如果第一个域小于第二个域,则count加一,并打印ok。

14.5.2. if/else语句,用于双重判断。

格式:
        {if (expression){
                   statement; statement; ...
                       }
        else{
                   statement; statement; ...
                       }
        }

$ awk '{if ($1 > 100) print $1 "bad" ; else print  "ok"}' test。如果$1大于100则打印$1 bad,否则打印ok。

$ awk '{if ($1 > 100){  count++; print $1} else {count--; print $2}'  test。如果$1大于100,则count加一,并打印$1,否则count减一,并打印$1。

14.5.3. if/else else if语句,用于多重判断。

格式:
        {if (expression){
                    statement; statement; ...
                   }
        else if (expression){
                    statement; statement; ...
                   }
        else if (expression){
                    statement; statement; ...
                   }
        else {
                   statement; statement; ...
             }
        }

14.6. 循 环

  • awk有三种循环:while循环;for循环;special for循环。

  • $  awk '{ i = 1; while ( i <= NF ) { print NF,$i; i++}}'  test。变量的初始值为1,若i小于可等于NF(记录中域的个数),则执行打印语句,且i增加1。直到i的值大于NF.

  • $  awk '{for (i = 1; i<NF; i++) print NF,$i}' test。作用同上。

  • breadkcontinue 语句。break用于在满足条件的情况下跳出循环;continue用于在满足条件的情况下忽略后面的语句,直接返回循环的顶端。如:

    {for ( x=3; x<=NF; x++) 
                if ($x<0){print "Bottomed out!"; break}}
    {for ( x=3; x<=NF; x++)
                if ($x==0){print "Get next item"; continue}}
          
  • next语句从输入文件中读取一行,然后从头开始执行awk脚本。如:

    {if ($1 ~/test/){next}
        else {print}
    }
        
  • exit语句用于结束awk程序,但不会略过END块。退出状态为0代表成功,非零值表示出错。

14.7. 数组

awk 中的数组的下标可以是数字和字母,称为关联数组。

14.7.1. 下 标与关联数组

  • 用变量作为数组下标。如:$ awk  {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}'  test。数组name中的下标是一个自定义变量x,awk初始化x的值为0,在每次使用后增加1。第二个域的值被赋给name数组的各个元素。在END 模块中,for循环被用于循环整个数组,从下标为0的元素开始,打印那些存储在数组中的值。因为下标是关健字,所以它不一定从0开始,可以从任何值开始。

  • special  for循环用于读取关联数组中的元素。格式如下:

    {for (item in arrayname){
             print arrayname[item]
             }
    }
    $ awk '/^tom/{name[NR]=$1}; END{for(i in name){print name[i]}}'  test。打印有值的数组元素。打印的顺序是随机的。     
  • 用字符串作为下标。如:count["test"]

  • 用域值作为数组的下标。一种新的 for循环方式,for (index_value in array) statement。如:$ awk '{count[$1]++}  END{for(name in count) print name,count[name]}'  test。该语句将打印$1中字符串出现的次数。它首先以第一个域作数组count的下标,第一个域变化,索引就变化。

  • delete 函数用于删除数组元素。如:$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}'  test。分配给数组line的是第一个域的值,所有记录处理完成后,special for循环将删除每一个元素。

14.8. awk的内建函数

14.8.1. 字符串函数

  • sub函数匹配记录中最大、最靠左边的子字符串的正则表达 式,并用替换字符串替换这些字符串。如果没有指定目标字符串就默认使用整个记录。替换只发生在第一次匹配的时候。格式如下:

                sub (regular expression, substitution string):
                sub (regular expression, substitution string, target string)

    实例:

                $ awk '{ sub(/test/, "mytest"); print }' testfile
                $ awk '{ sub(/test/, "mytest"); $1}; print }' testfile

    第一个例子在整个记录中匹配,替换只发生在第一次匹配发生的时候。如要在整个文件中进行匹配需要用到gsub

    第二个例子 在整个记录的第一个域中进行匹配,替换只发生在第一次匹配发生的时候。

  • gsub函数作用如sub,但它在整个文档中进行 匹配。格式如下:

                gsub (regular expression, substitution string)
                gsub (regular expression, substitution string, target string)

    实例:

                $ awk '{ gsub(/test/, "mytest"); print }' testfile
                $ awk '{ gsub(/test/, "mytest"), $1 }; print }' testfile

    第一个例子在整个文档中匹配test,匹配的都被替换成mytest。

    第二个例子在整个文档的第一个域中匹配,所有匹配 的都被替换成mytest。

  • index函数返回子字符串第一次被匹配的位置,偏移量从位置1开始。格式如下:

              index(string, substring)

    实例:

                $ awk '{ print index("test", "mytest") }' testfile

    实例返回test在mytest的位置,结果应该是3。

  • length函数返回记录的字符数。格式如 下:

                length( string )
                length

    实例:

                $ awk '{ print length( "test" ) }' 
                $ awk '{ print length }' testfile

    第一个实例返回test字符串的长度。

    第二个实例返回testfile文件中第条记录的字符数。

  • substr 函数返回从位置1开始的子字符串,如果指定长度超过实际长度,就返回整个字符串。格式如下:

                substr( string, starting position )
                substr( string, starting position, length of string )

    实例:

                $ awk '{ print substr( "hello world", 7,11 ) }' 

    上例截取了world子字符串。

  • match函数返回在字符串中正则表达式位置的索引,如果找不到指定 的正则表达式则返回0。match函数会设置内建变量RSTART为字符串中子字符串的开始位置,RLENGTH为到子字符串末尾的字符个数。 substr可利于这些变量来截取字符串。函数格式如下:

                match( string, regular expression )

    实例:

                $ awk '{start=match("this is a test",/[a-z]+$/); print start}'
                $ awk '{start=match("this is a test",/[a-z]+$/); print start, RSTART, RLENGTH }'

    第一个实例打印以连续小写字符结尾的开始位置,这里是11。

    第二个实例还打印RSTART和RLENGTH变量,这里是 11(start),11(RSTART),4(RLENGTH)。

  • toupper和tolower函数可用于字符串大 小间的转换,该功能只在gawk中有效。格式如下:

                toupper( string )
                tolower( string )

    实例:

                $ awk '{ print toupper("test"), tolower("TEST") }'
  • split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供,则按当前FS值进行分割。格式如下:

                split( string, array, field separator )
                split( string, array )

    实例:

                $ awk '{ split( "20:18:00", time, ":" ); print time[2] }'

    上例把时间按冒号分割到time数组内,并显示第二个数组元素18。

14.8.2. 时间函数

  • systime函数返回从1970年1月1日开始到当前时 间(不计闰年)的整秒数。格式如下:

                systime()

    实例:

                $ awk '{ now = systime(); print now }'
  • strftime函数使用C库中的strftime函数格式化时间。格式如下:

                systime( [format specification][,timestamp] )

    Table 3. 日 期和时间格式说明符

    格 式描述
    %a星期几的缩写(Sun)
    %A星 期几的完整写法(Sunday)
    %b月名的缩写(Oct)
    %B月 名的完整写法(October)
    %c本地日期和时间
    %d十 进制日期
    %D日期 08/20/99
    %e日 期,如果只有一位会补上一个空格
    %H用十进制表示24小时格式的小时
    %I用 十进制表示12小时格式的小时
    %j从1月1日起一年中的第几天
    %m十 进制表示的月份
    %M十进制表示的分钟
    %p12 小时表示法(AM/PM)
    %S十进制表示的秒
    %U十 进制表示的一年中的第几个星期(星期天作为一个星期的开始)
    %w十进制表示的星期几(星期天是 0)
    %W十进制表示的一年中的第几个星期(星期一作为一个星期的开始)
    %x重 新设置本地日期(08/20/99)
    %X重新设置本地时间(12:00:00)
    %y两 位数字表示的年(99)
    %Y当前月份
    %Z时 区(PDT)
    %%百分号(%)

    实 例:

                $ awk '{ now=strftime( "%D", systime() ); print now }'
                $ awk '{ now=strftime("%m/%d/%y"); print now }'

14.8.3. 内 建数学函数

Table 4. 

函数名称返 回值
atan2(x,y)y,x范围内的余切
cos(x)余 弦函数
exp(x)求幂
int(x)取 整
log(x)自然对数
rand()随 机数
sin(x)正弦
sqrt(x)平 方根
srand(x)x是rand()函数的种子
int(x)取 整,过程没有舍入
rand()产生一个大于等于0而小于1的随机数

14.8.4. 自定义函数

在 awk中还可自定义函数,格式如下:

        function name ( parameter, parameter, parameter, ... ) {
                        statements
                        return expression                  # the return statement and expression are optional
        }

15. How-to

  • 如何把一行竖排的数据转换成横排?

    awk  '{printf("%s,",$1)}' filename

    
Linux 平台 awk , linux
引用地址:
注意: 该地址仅在今日23:59:59之前有效

PHP 生成中文验证码乱码问题解决

2010/07/05 0 Comments


//将要处理的汉字,先由UTF8的汉字转成html实体形式再使用.

//示例代码:


$pic=imagecreate(250,30);
$black=imagecolorallocate($pic,0,0,0);
$white=imagecolorallocate($pic,255,255,255);
$font="C://WINDOWS//Fonts//simhei.ttf";$str = '中华人民共和国';
$str = mb_convert_encoding($str, "html-entities","utf-8"  );//结 果:&#21738;&#19968;&#38431;&#20248;&#20808;&#24320;&#29699;

imagettftext($pic,10,0,10,20,$white,$font,$str);

header("Content-type: image/jpeg");
$filename='./photo.jpg';
$im=imagecreatefromjpeg($filename);
imagecopymerge($im,$pic,0,0,0,0,250,30,50);
imagejpeg($im);

//pChart 示例代码:

/*
      Example14: A smooth flat pie graph
*/

// Standard inclusions  
header("content-type:text/html; charset=utf-8");
include_once("pChart/pData.class.php");
include_once("pChart/pChart.class.php");
// Dataset definition
$DataSet = new pData;
$DataSet->AddPoint(array(10,2,3,5,3),"Serie1");
$DataSet->AddPoint(iconv_arr(array("Jan","二月","三 月","Apr","May")),"Serie2");
$DataSet->AddAllSeries();
$DataSet->SetAbsciseLabelSerie("Serie2");

// Initialise the graph
$Test = new pChart(300,200);
$Test->loadColorPalette("Sample/softtones.txt");
$Test->drawFilledRoundedRectangle(7,7,293,193,5,240,240,240);
$Test->drawRoundedRectangle(5,5,295,195,5,230,230,230);

// Draw the pie chart
$Test->setFontProperties("Fonts/simkai.ttf",8);
$Test->drawBasicPieGraph($DataSet->GetData(),$DataSet->GetDataDescription(),120,100,70,PIE_PERCENTAGE,255,255,218);
$Test->drawPieLegend(230,15,$DataSet->GetData(),$DataSet->GetDataDescription(),250,250,250);

$Test->Render("example14.png");

/**
* 将文本由UTF8编码转化为数字形式编码(HTML实体)
* @param $arr 该参数可以为数组或者string
* @author Steven lxq70361@qq.com
*/
function iconv_arr($arr){
if(is_array($arr)){
    foreach($arr as $k=>$v){
     $arr[$k] = iconv_arr($v);
    }
    
}else{
    $arr = mb_convert_encoding($arr, "html-entities","utf-8" );
}
return $arr;
}
Web 开发 php , 验证码gd
引用地址:
注意: 该地址仅在今日23:59:59之前有效
分页: 1/36 第一页 1 2 3 4 5 6 7 8 9 10 下页 最后页 [ 显示模式: 摘要 | 列表 ]
公告
需要添加链接的同学们,可以申请链接哦!
RSS feed Email feed
分类
  • 默认分类 [12] RSS
  • 心情杂语 [47] RSS
  • Linux 平台 [22] RSS
  • Windows 平台 [29] RSS
  • Web 开发 [35] RSS
  • Mysql [8] RSS
  • 网络技术 [9] RSS
  • 投资理财 [1] RSS
  • 软件逆向 [5] RSS
  • 网络安全 [3] RSS
  • 网络杂文 [3] RSS
  • 道听途说 [5] RSS
日历
< 2010 >    < 9 >
庚寅年(虎)
日 一 二 三 四 五 六
1234
567891011
12131415161718
19202122232425
2627282930
统计
访问次数 126876
今日访问 297
日志数量 178
评论数量 28
引用数量 0
留言数量 3
注册用户 1
在线人数 16
搜索
最新日志
  • MYSQL的优化[转]
  • PHP代码审计工具
  • Mrtg系统状态监控[C...
  • Awk学习笔记
  • PHP 生成中文验证码乱...
最新评论
  • 大量出售成品:(植物冰)...
  • 大量出售成品:(植物冰)...
  • ok,Replica O...
  • Recommend:le...
  • Keygen.exe 文...
链接
  • 友情链接
  • Jansfer
  • 阻击者的网络通行证
  • 大面面的博客
  • 华立的博客
  • 中国看电影CNKDY.COM
  • 爱书网
  • 噢噢动漫
  • DJ噢噢
  • QQ空间代理、代码查询
  • QQ空间查询器
  • 福建游戏论坛
  • kakapo's nest
  • 我爱美眉
  • 常用工具
  • 生活常用工具
  • 铁路客服中心
  • 网易文档
归档
  • 2010/09
  • 2010/08
  • 2010/07
  • 2010/06
  • 2010/05
其他
登入
注册
申请链接
RSS: 日志 | 评论
编码:UTF-8
XHTML 1.0

Top bo-blog
Copyright © 忆风居. Powered by Bo-Blog 2.1.1 ReleaseCode detection by Bug.Center.Team
闽ICP备09070078号
Valid XHTML 1.1 and CSS 3