カラム内改行コードを含むCSVの読み込みが致命的に遅い

投稿者: m6u2 声7 投稿

おせわになっております。 業務上、Yahoo!ショッピングのデータ編集をやることがあるのですが、 例えば11MBくらいまで成長している商品データcsvを読ませると、 カラム内改行コードを含んでいるために 簡単にカンマ区切り表示に切り替わらず、 丁寧に一行一行点検して分単位の待たされ方をします。 5分待っても終わらないとか異常です。 とても待てずキャンセルしてしまうのですが。 キャンセルすると、列数が一致しないというメッセージが残されてしまうのですが、 よそのCSVエディタでは差し支えなく開けているので 処理キャンセルの影響だろうと察しますが。 通常、よそのCSVエディタを使うので大事は至りませんが、 データベースのダンプファイルをサクッと開ける快速さとのギャップに 残念に思います。
m6u 様 いつもお世話になっております。江村です。 EmEditor のバージョンはいくつでしょうか? 最新でない場合は、最新版にしてお試しください。CSV の解析は以前よりも大幅に速くなっています。 よろしくお願い申し上げます。
只今v18.2.0(64-bit)に更新しました。 マウスカーソルが砂時計状態でフリーズ(画面表示の変化がない状態)してます。 ポップアップ表示が出ました、 区切り位置を調整しています: 埋め込み改行コードを検出しました。 で、25万5千行くらいあるものをチェックする場面でほぼ固まっており、 他のファイルの編集もできなくなるのが残念です。 しばらく放置しておいたら 編集可能な状態になって差し支える状況ではなくなりました。 なんとなく、変更した方向性としては、 読み込み状況の報告頻度を下げて処理を優先させている感じでしょうか。
m6u 様 いつもお世話になっております。江村です。 もっと速くなるように最適化してみます。もし可能でしたら、問題の発生する CSV ファイルのサンプルを Zip に圧縮してから tech @ emurasoft.com にメールで送っていただければ、こちらでテストしてみます。難しいようでしたら、こちらで似たようなテスト ファイルを作成してテストを行いますので、ファイルのサイズ、行数、CSVの形式、列の数、1列あたりの改行コードの数、全体の改行コードの総数などの情報を教えていただけると幸いです。サイズは 11MB、行数 25万5千行 ということでしょうか。 もし、セル内の改行コードの数の最大値がわかっている場合は、カスタマイズの [CSV] の設定で、[セル内の最大改行数] をもっと小さな値にしていただくことにより、若干、速くなる可能性はあります。 また、「CSV の正当性を確認してエラーを出力する」、「自動的に区切り位置を調節」のチェックを外すと速くなる可能性があります。 ご迷惑をお掛けして申し訳ありません。 よろしくお願い申し上げます。
m6u 様 いつもお世話になっております。江村です。 こちらで似たようなファイルを作成してテストしていますので、お手数をお掛けしてまで送っていただかなくても大丈夫になりました。お騒がせいたしました。 最適化して、速くなりそうなので、次のバージョンまでお待ちください。 よろしくお願い申し上げます。
m6u 様 いつもお世話になっております。江村です。 先ほど公開した v18.3.0 beta 1 (18.2.91) で最適化しましたので、よろしければお試しください。 よろしくお願い申し上げます。
v18.2.91に更新してみました。 劇的に変わりましたね! これなら使えます。 開けるようになったらもう一つ気になる点を見つけました。 改行コードを含むセルで改行コードが「J」になってるのは理解していますが、 セル編集窓で単なるブランクに見えてしまうのが惜しいです。 セル編集窓では改行コードを展開して表示することは出来るでしょうか。

このトピックの投稿: 7