Webスクレイピングの勉強会に行ってきた

ここ最近のGoogle App Engineいじりで、PythonでのWebスクレイピング欲が高まってところ、たまたま勉強会を見つけたので、参加してみた。

第1回Webスクレイピング勉強会@東京

昨今、オープンデータ運動の影響で、RDFデータで構成される”データのWeb”への注目が増しています。
“データのWeb”は、GOODデータの共有データストアです。
しかし、現実問題として、RDFデータ間の関係設計やインフラ整備を行う人材は多くなく、データの質は確保できても量は確保できていません。

私達は、もう一つのWebの可能性に注目します。

もう一つのWeb、すなわちHTMLデータで構成される”ドキュメントのWeb”です。
“ドキュメントのWeb”は、BADデータの共有データストアです。
そこから情報解析の為にデータ取得する事は、著作権法第47条の7で保護されています。
“データのWeb”と”ドキュメントのWeb”を一つのデータストアとして活用できれば、それは理想的な未来です。

その理想的な未来にたどり着くための技術の走りが”Webスクレイピング”であると思います。
私達は、この技術を持つ人々がLinkする環境を提供し共に刺激し合う事で、この理想的な未来へ貢献します。

 


スポンサーリンク

 

 
 

 
 


スポンサーリンク

 
 

 
 

 
 

 
 

 
 

最近は自分でプログラムをガリガリ書かなくても、SaaS型のサービスでスクレイピングできたりするみたいね。自分でガリガリ書く利点としては、社内ローカルのシステムの情報を引っ張るとか、社外秘が絡むものかな。エンタープライズ契約もあったりするらしいけど、会社のポリシーとぶつかったら実現できないし。個人的に、クソUIな社内システム上の情報をスクレイピングでぶっこ抜いて業務を効率化したいところ。

こういう勉強会に行くと、自分の興味のあるジャンルをやろうとしている他の人達の顔も見えていいですね。

Qiitaにもまとめが上がったみたい↓
第1回Webスクレイピング勉強会@東京 (全3回)


スポンサーリンク

関連記事

Raspberry Pi 2のGPIOピン配置
Amazon EC2ログイン用の秘密鍵を無くした場合の対処方法
WebGL開発に関する情報が充実してきている
Mask R-CNN:ディープラーニングによる一般物体検出・Instance Segmentatio...
OpenCV 3.3.0 contribのsfmモジュールのサンプルを動かしてみる
Python拡張モジュールのWindows用インストーラー配布サイト
仮想関数
科学技術計算向けスクリプト言語『Julia』
TensorFlowでCGを微分できる『TensorFlow Graphics』
Open3D:3Dデータ処理ライブラリ
SDカードサイズのコンピューター『Intel Edison』
今年もSSII
OpenCVでiPhone6sのカメラをキャリブレーションする
BlenderのPython環境にPyTorchをインストールする
TeleSculptor:空撮動画からPhotogrammetryするツール
Accord.NET Framework:C#で使える機械学習ライブラリ
MPFB2:Blenderの人体モデリングアドオン
Super Resolution:OpenCVの超解像処理モジュール
Javaで作られたオープンソースの3DCGレンダラ『Sunflow』
trimesh:PythonでポリゴンMeshを扱うライブラリ
機械学習で遊ぶ
GitHub Pagesで静的サイトを作る
CGALDotNet:計算幾何学ライブラリ CGALのC#ラッパー
OANDAのfxTrade API
3Dモデルを立体視で確認できるVRアプリを作っている
株式会社ヘキサドライブの研究室ページ
『手を動かしながら学ぶエンジニアのためのデータサイエンス』ハンズオンセミナーに行ってきた
OpenCV 3.1から追加されたSfMモジュール
Unity Scriptコーディング→Unreal Engine Scriptコーディング
konashiのサンプルコードを動かしてみた
Cartographer:オープンソースのSLAMライブラリ
3分の動画でプログラミングを学習できるサイト『ドットインストール』
Russian3DScannerのトポロジー転送ツール『WrapX』
アクセス元IPアドレスから企業名が分かるアクセス解析『User Local スマートフォン解析』
OpenCV バージョン4がリリースされた!
Kaolin:3Dディープラーニング用のPyTorchライブラリ
WordPressのテーマを自作する
Boost オープンソースライブラリ
OpenCLに対応したオープンソースの物理ベースレンダラ『LuxRender(ルクスレンダー)』
オープンソースの物理ベースGIレンダラ『appleseed』
iOSデバイスのためのフィジカル・コンピューティングツールキット『konashi(こなし)』
Managing Software Requirements: A Unified Approach

コメント