今天碰到一个设计的严重问题,由于使用了外部文件来和sqlplus交互
sql大体结构如下
select xxxxx from xxxxx where table_name in ( "解析外部文件“)
在测试环境中没有什么问题,当某个用户表比较多的时候,就开始报如下的错误
*
ERROR at line 1003:
ORA-01795: maximum number of expressions in a list is 1000
********************************************************************************
因为需要,一定要解析这个外部文件,所以只能从别的方面进行考虑进行解决。
我加了了分页的改进,没500条记录分为一页,这样循环调用就可以生成最终的文件了。
v_page_size=500
v_page=1
v_start=1
v_len=`expr ${v_page} \* ${v_page_size}`
minus_file_len=`cat ${minus_list}|wc -l`
#pages_flag=`expr ${minus_file_len} / ${v_page_size}`
pages_float=`echo "scale=2 ; ${minus_file_len} / 500"|bc`
pages_num=`echo '' | awk -v a=$pages_float '{print int(a+0.999)}'`
--上面的这一段基本就是要实现oracle中ceil的部分,比如有700条记录,500条一页,这样700/500就是1.4,根据需要,需要返回2.
然后开始循环,控制下标,
while [ ${v_page} -le ${pages_num} ]
do
echo ...............................
echo 'from Source :' $S_DB_STR
echo from:$v_start
echo end:$v_len
echo page no: $v_page
echo ...............................
sed -n "${v_start},${v_len}p" ${minus_list} > $SCHEMA_DIR/table_list.log
minus_tab_list=`cat ${SCHEMA_DIR}/table_list._${v_page}.log|awk '{print "'\''" $1 "'\'',"}'`
get_tab_details $S_DB_CONN_STR --这个部分是调用sqlplus的部分,传入连接串
v_start=`expr ${v_page} \* ${v_page_size} + 1`
#v_page=$[ $v_page + 1 ]
v_page=`expr ${v_page} + 1`
v_len=`expr ${v_page} \* ${v_page_size}`
done
输出结果如下:
from:1
end:500
page no: 1
...............................
数据内容
from:501
end:1000
page no: 2
...............................
xxx
这样不管数据量有多大,都可以灵活的进行拆分。
阅读(1644) | 评论(0) | 转发(0) |