最近来了一批数据,其中有一部分是一个从postgresql导出的sql文件,大概有7个多G,需要把数据整合到Mysql里边做进一步处理,网上搜了一些方式好多是要修改这个sql文件(因为从postgresql里直接dump出来的sql文件直接怼到mysql是不能识别的,不能直接导入),修改后在把postgresql的文件直接入mysql,貌似对那种表结构和数据分别导出的还可以,手头这个文件情况是表结构和数据在一个sql文件里,里边还有一些copy等的关键字,无奈只好自己安装一个postgresql库,先导入到postgresql库里边再同步到mysql里,写代码好几年了,这还是第一次接触postgresql,所以这里把过程记录一下
安装
-
配置yum库
vi /etc/yum.repos.d/CentOS-Base.repo
[base] 和[updates] 区段添加:exclude=postgresql*
-
卸载旧版本postgresqsl
yum remove postgresql*
-
安装PGDG RPM文件
打开网页http://yum.postgresql.org找到自己需要的rpm,比如我是Centos 6.5系统,要安装Postgresql 9.3:
右键复制上边这个链接,执行如下命令:yum localinstall https://download.postgresql.org/pub/repos/yum/9.3/redhat/rhel-6-x86_64/pgdg-centos93-9.3-3.noarch.rpm
当然也可以通过wget下载rpm
wget https://download.postgresql.org/pub/repos/yum/9.3/redhat/rhel-6-x86_64/pgdg-centos93-9.3-3.noarch.rpm
然后
rpm -ivh pgdg-centos93-9.3-3.noarch.rpm
-
安装postgresql
可以通过命令列出可用的安装包:yum list postgres*
这里我要安装的是PostgreSQL 9.3 server(你可以根据自己的需求安装其他包),执行如下命令:
yum install postgresql93-server
-
初始化
执行如下命令,进行初始化,执行完成后会在/var/lib/pgsql/9.3/data目录下生成数据文件夹,包含了数据库所需的数据文件,变量PGDATA指的就是这个目录service postgresql-9.3 initdb
如果提示-bash: service: command not found,则需要设置环境变量
vim .bash_profile然后添加export PATH=$PATH:/sbin -
设置开机自启动
chkconfig postgresql-9.3 on
启动:
service postgresql-9.3 start #/start/stop/restart/reload 或者 /etc/init.d/postgresql-9.3 start
-
修改密码
修改linux系统用户postgres的密码,PostgreSQL 数据库默认会创建一个linux 系统用户postgres,通过passwd 命令可设置系统用户的密码,直接在控制台输入以下命令:su postgres psql ALTER USER postgres WITH PASSWORD 'postgresql'; \q su root
这样就把postgres的密码改为postgresql了。
-
修改PostgreSQL数据库配置实现可远程访问
- 修改postgresql.conf文件,vim /var/lib/pgsql/9.3/data/postgresql.conf
将listen_addresses前的#去掉,并将 listen_addresses = 'localhost' 改成 listen_addresses = '*'; - 修改客户端认证配置文件pg_hba.conf,将需要远程访问数据库的IP地址或地址段加入该文件,vi /var/lib/pgsql/9.3/data/pg_hba.conf,将IPv4区下的127.0.0.1/32修改为0.0.0.0/0; 将ident修改为md5
- 重启服务使设置生效 service postgresql-9.3 restart
- 修改postgresql.conf文件,vim /var/lib/pgsql/9.3/data/postgresql.conf
-
设置防火墙,开发5432端口(这个根据centos版本不同,略有差异)
1.开启5432端口iptables -A INPUT -p tcp --dport 5432 -j ACCEPT
- 保存并重启防火墙
/etc/rc.d/init.d/iptables save /etc/init.d/iptables restart
至此,安装完成,使用navicat登录用户名postgres,密码postgresqsl,如下图:
使用
这里基本使用就不介绍了,我自己的需求很简单,就是把7G的sql导入进去,后边再同步到mysql,使用如下命令:
psql -d postgres -h 192.168.40.11 -p 5432 -U postgres -f /data/data_dump.sql
问题就来了,报错信息如下:
很明显,磁盘空间不足,使用df -h查看磁盘剩余空间如下:
可以看到,根目录下可用空间只剩4.6G,这里要说明一下,postgresql默认安装目录是/usr/pgsql-9.3,默认数存放目录是/var/lib/pgsql/9.3/data,而/var正是在根目录下,所以需要更改数据目录,如果是曾经导入过数据,需要先做数据迁移并更改数据存放目录,从上图可以看出系统/data目录磁盘空间比较大,所以这里我把数据放在/data目录下。
这里方法有两种,
一:重新初始化postgresql数据库,初始化时指定新的数据路径---PGDATA,指定的位置是在/etc/init.d/postgresql-9.3里的PGDATA,然后在新的环境下将原有的数据库备份恢复一下。感觉这种方式更适合我的情况,因为我的库里边没有数据,直接初始化就行,比较简单,但是如果你库里有数据就有点麻烦了。
二:直接将现有的数据库文件全部拷贝到新的数据库路径下,然后重起数据库服务,这种更适合于库里边已有数据的情况,考虑到后边可能会遇到库里已有数据且磁盘空间已满的情况,所以我使用了这种方式。
- 新建一个目录作为新的数据存放目录,这里我是/data/postgresqldatadir
mkdir /data/postgresqldatadir sudo chown -R postgres:postgres /data/postgresqldatadir sudo chmod 700 /data/postgresqldatadir //这个授权命令别忘了,不然后边启动有问题
- 拷贝之前的data到新的数据目录
这里需要先停止postgresql服务:/etc/init.d/postgresql-9.5 stop
sudo su - postgres
cp -rf /var/lib/pgsql/9.3/data/* /data/postgresqldatadir -
修改启动配置文件
vim /etc/init.d/postgresql-9.3
修改其中的PGDATA为新创建的数据目录
- 启动postgresql服务
启动完成后,可以先使用navicat测试一下连接,没有问题/etc/init.d/postgresql-9.3 start
- 数据导入,执行如下导入命令:
耐心等待,有7G多,直至导入完成:psql -d postgres -h 192.168.40.11 -p 5432 -U postgres -f /data/data_dump.sql