弁護士の向原です。

１　こういうのは大丈夫か？
「万引きを発見しても警察には届けないかわりに、「私は万引きしました」というプラカードを持たせて撮影し、無期限で掲載するが、ただし、罰金として5万円を払えば撮影は免れる、という方法を取りたいがどうか」

これは、「警察に告訴する」という「害悪の告知」を手段として金銭の交付をさせる行為であるので、恐喝罪に該当する可能性があります。たとえ5万円が1万円でも同じです。

２　個人的な感想
こういう場合は、一元的に、
(1)　刑事的な処罰は警察→検察→裁判所ラインで処理する
(2)　民事的な損害賠償請求は裁判所ラインで処理する（裁判所に持っていくまえに弁護士）
というのが「建前」です。

が、上記(1)など、警察は、窃盗事件がたくさんありすぎてなかなか取り合ってくれないし、本気で捜査してくれることはめったにありません。犯人が捕まったら捕まったで、店長は調書を取られたりで対応時間を取られます。また、被害の回復となると民事なので、警察はとり合ってくれません（盗品の現物の還付はあるかもしれないが）。それなりに時間もかかります。
さらに、(2)については、弁護士に依頼する費用で足が出ますし、解決に長期間かかるうえ、勝訴判決を得たとしても、相手方の資力がないとなれば、どうしようもありません。少なくとも、盗品の回復もできないことが多いでしょうし、被害店舗側の被害感情を満たすだけの結果を出すことは非常に困難だと思われます。

弁護士としての立場からは、推奨しません。道徳的倫理的常識的な観点からは格別、コンプライアンス的には、上記２店舗の解決方法は✕ということになります。
が、このような事に警察や司法との対応時間や労力を割くコストを考えたら、こうした被害は発生するものと想定して「損切り」（どうせ損金処理できるし）してしまうという対応策もありえるところです。
が、それが行き過ぎると、盗人に狙われる店になったりして、モラハラになってしまう可能性もあるので頭がいたいところです。
つまり、「警察不信」「司法不信」ということにつながるのですが、早期解決が至上命題の経済社会においては、これらの機能に依存しないこうした「自力救済」が横行するのもむべなるかなと考えています。

３　対策
こうした、小規模被害について、早期解決ができる新たな法制が必要かもしれません。少額訴訟や支払督促といっても、所詮、犯人が見つからないとできませんし（警察マタ－）、また、犯人が見つかってこれらの手続きを取るとしても手間暇がかかりすぎる上に異議でも出されれば本訴移行でめんどくさく時間もかかるし（訴訟マタ－）、勝訴したところで相手の資産状況まで教えてくれるわけでもなければ民事的に調べる方法は非常に限られていて金が取れるかわからないし（執行マタ－）。
これらのマターを総合的につなぎあわせて考えないと、いわゆる「法化社会」なんてのは画餅も画餅、何の意味も持たないなと感じます。
一つの提案としては、
(1)　警察への被害届出→警察における捜査結果を被害者に全面的に開示し、その際の手続を簡素化すること。当然、不起訴記録も含む。当然、相手方の住所地の情報も（(2)の送達に必要だから）。
なお、警察において、相手の資力状況もくまなく調べておく。
現状は、この情報開示作業が本当に面倒くさい。刑訴47条参照。ただし例外があるが、ここで書くのは面倒くさいほど複雑なので割愛します。
(2)　(1)を添付して簡単な申立書を作れば、裁判所は送達後1週間で確定判決と同一の効力を持った効力を持つ決定を出す。これに異議は認めない。
なお、弁護士費用は全額認容すること（不法行為ですし。もちろん目安は設けること。多くの弁護士はこの目安に基づいて報酬算定するでしょう）。
なお、裁判所の労力を緩和するため、弁護士が関与して作成した書類にも、同様の効力があるものとする。これが実現すれば、顧問弁護士にやらせればいいですね。
(3)　決定後、任意に払わない場合は執行。
(1)で警察から開示を受けた財産に対して差押をする。この場合、請求異議の訴えなどは一切認めない。
この場合の執行のもととなる請求債権額は、(2)で認められた金額の３倍とする（任意に払わないことへのサンクション）。
(4)　警察→検察→終局処分ということになるが、この(2)(3)の経過をみて、検察は終局処分（不起訴か略式請求か公判請求か）を決定する。
(5)　裁判所は、略式もしくは公判請求となった場合、(2)(3)の経過を最重要視して、これらが実現されていない場合、これを情状として重く捉える。

これぐらいやらないと、法的手続という時間と金のかかる手続を取る意味がありませんし、また、国民の法感情を満たせないことになります。
国民の法感情を満たせなければ、誰も法など守らなくなります。
だから、冒頭１で述べたような話が出てくるのです（だから、そういう話が出てくるのは「むべなるかな」と感じた。）
一方で、現状だと、刑事と民事は分離していて使い勝手が悪いので、やった側からしたら、「どうせ訴えられることもないし」という感じはあるように思います。
対象行為が刑事・民事双方に関わる場合、これを密接に関連させることによって、「法をきちんと遵守せねば制裁がある」という心理的強制効果を持たせることにつながり、法が目指すことを実現する上では有効なのではないかと思います。

もちろん、これには、人権云々という反論があるかもしれません。
が、警察での手続にはきちんと被疑者の権利が定められています。
（ここが上記のドラスティックな対応策を正当化する根拠になるので、警察にはそこらへんをしっかり守ってほしいわけですが）
なので、そこは担保されているという前提での話です。

しかし、人権というけれど、それを認めることは前提条件として大切ですが、まじめに１品◯円という薄利で営々と地道に商売を営んでいる人の権利はどうなっちゃうんでしょうね。そこにも少しは思いを致して欲しいところです。万引のリスクを、こうした小売店に全て負わせることが正義だとは、私は思っておらず、被害の実質的回復を十全に図る法制がないから、不満が溜まっていき、冒頭１のような自力救済につながり、かえって不合理な解決につながっていくのではないかと思います。
いろいろ法改正やってたり、我々の親玉の日弁連もいろいろ活動やってますが、こういう地味だがよくある話には、エライ人達は誰も目もくれないんだよなあというのが、そういうエライ人たちとは違う、地味な育ち方をした私の感想です。