Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 

 

 
 

 
 

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)

関連記事

Python for Unity:UnityEditorでPythonを使えるパッケージ

Mayaのプラグイン開発

Rerun:マルチモーダルデータの可視化アプリとSDK

DensePose:画像中の人物表面のUV座標を推定する

機械学習で遊ぶ

uvでWindows11のPython環境を管理する

OANDAのfxTrade API

MVStudio:オープンソースのPhotogrammetryツール

Google製オープンソース機械学習ライブラリ『TensorFlow』のWindows版が公開された

SVM (Support Vector Machine)

OpenCV 3.3.0-RCでsfmモジュールをビルド

書籍『OpenCV 3 プログラミングブック』を購入

OpenFace:Deep Neural Networkによる顔の個人識別フレームワーク

OpenCV 3.1のsfmモジュールのビルド再び

AMIMOTO(PVM版)で作成したインスタンスをAMIMOTO (HVM版)へ移行する

Polyscope:3Dデータ操作用GUIライブラリ

OpenCV

Mask R-CNN:ディープラーニングによる一般物体検出・Instance Segmentatio...

定数

Geogram:C++の3D幾何アルゴリズムライブラリ

Structure from Motion (多視点画像からの3次元形状復元)

Webサイトのワイヤーフレームが作成できるオンラインツール

書籍『ゼロから作るDeep Learning』で自分なりに学ぶ

3Dグラフィックスの入門書

書籍『3次元コンピュータビジョン計算ハンドブック』を購入

Deep Learningとその他の機械学習手法の性能比較

まだ続くブログの不調

オープンソースの取引プラットフォーム

Boost オープンソースライブラリ

ブログをGoogle App EngineからAmazon EC2へ移行

任意の英語サイト中で自分がまだ覚えていない英単語だけに日本語のルビを振ってくれるツール『ずるっこ!』

Accord.NET Framework:C#で使える機械学習ライブラリ

UnityでOpenCVを使うには?

HTML5・WebGLベースのグラフィックスエンジン『Goo Engine』

Unityで学ぶC#

ROMOハッカソンに行ってきた

C#で使える遺伝的アルゴリズムライブラリ『GeneticSharp』

Deep Fluids:流体シミュレーションをディープラーニングで近似する

プログラムによる景観の自動生成

Konashiを買った

OpenCVでPhotoshopのプラグイン開発

HerokuでMEAN stack

コメント